В OpenAIоценили риски создания ИИ биологической угрозы
В компании Open AI начали работу по созданию схемы безопасности, предотвращающую риски появления биологической угрозы, в связи с использованием искусственного интеллекта (ИИ).
Как только появятся более мощные системы ИИ, необходимо оценить как полезный, так и вредный потенциал технологий. Одним из наиболее существенных рисков является способность систем ИИ к созданию биологических угроз.
Однако предварительная оценка жизнеспособности данного потенциала пока не имеет достаточных оснований. Компания приступила к заблаговременной разработке методологии рисков, которые помогут в будущем.
В результате эксперимента, проведенного компанией, стало ясно, что GPT-4 повышает точность и инновационность разработки биологической угрозы, указано в отчете компании.
Сейчас компания продолжает расследование, чтобы предотвратить все возможные риски.
