Медики доверили ChatGPT составление схем лечения рака
Американские врачи в рамках исследования решили доверить искусственному интеллекту составление схемы лечения больных раком. В результате, используемая нейросеть ChatGPT 3.5, смешивала верные рекомендации с несуществующими, запутывая врачей.
Тексты, которые получались у языковой модели, содержали лишь отчасти правильные данные. Около трети ее ответов имели ошибки, а в 12% результатов были предложения, не значащиеся ни в одном медицинском руководстве. Об этом сообщает Bloomberg со ссылкой на авторов исследования Brigham and Women’s Hospital.
Особенную опасность ответов, по мнению ученых, представляет подача рекомендации. «Нейросеть говорит так уверенно, что кажется, будто ее данные имеют смысл», – комментирует результаты автор исследования онколог Даниэль Биттерман.
При всех минусах, в исследовании подчеркивается, что ИИ показал хороший потенциал к диагностированию рака на ранней стадии. Однако высокая погрешность в рекомендациях лечения означает, что до широкого использования чат-ботов в медицинских учреждениях еще далеко.
