Еврокомиссия предложила ограничить использование ИИ в общественных сферах
Ограничение применения искусственного интеллекта (ИИ) в общественных сферах деятельности позволит повысить доверие граждан к новым технологиям на основе искусственного интеллекта, считает регулятор. Нововведение устранит риски и станет стандартом международного сообщества.
Например, предлагается запретить алгоритмы «социальных рейтингов» и существенно ограничить применение технологий распознавания лиц. Однако эксперты считают, что новые правила имеют много лазеек и могут навредить бизнесу, который уже вложился в развитие технологий.
Подход, используемый Еврокомиссией, основан на градации рисков, которые могут возникнуть при использовании ИИ в тех или иных сферах. Шкала включает «неприемлемый», «высокий», «ограниченный» и «минимальный» риск.
К «высокорисковым» способам применения ИИ Еврокомиссия отнесла кредитный скоринг, автоматизированную оценку тестов в сфере образования, программное обеспечение для найма сотрудников, роботизированную хирургию, а также использование алгоритмов в сферах юриспруденции и охраны правопорядка.
Чтобы попасть на рынок, такие решения должны будут соответствовать строгим критериям точности, безопасности, качества данных и открытости для пользователей и регуляторов.
