Прокуроры США обеспокоились, что ИИ может использоваться для дипфейков сексуальной эксплуатации детей

Tag : генеративный ИИ,дети,Искусственный интеллект,конгресс,прокуратура,США

Генпрокуроры всех 50 американских штатов и четырёх территорий направили в Конгресс письмо с настоятельной просьбой сформировать комиссию для изучения влияния искусственного интеллекта (ИИ) на такое явление, как сексуальная эксплуатация детей, сообщает The Verge в среду.

Комиссия должна найти решение для предотвращения создания ИИ-сгенерированных материалов, содержащих сцены сексуального насилия над детьми (child sexual abuse material, CSAM), говорится в письме.

Авторы обращения указывают, что злоумышленники учат ИИ использовать изображения детей (подвергавшихся и не подвергавшихся насилию), чтобы создавать дипфейки, а также генерировать «новые и реалистичные сексуализированные изображения детей, не существующих в реальности, но могущих быть похожими на живущих сейчас». При этом доступные ИИ-инструменты позволяют это делать «проще, чем ранее».

Также в письме содержится просьба расширить область существующих запретов на CSAM, чтобы включить в неё ИИ-сгенерированный противоправный контент, касающийся детей.

См. также: Ведущие IT-компании создали отраслевую организацию для контроля развития ИИ-технологий >>> 

Напомним, в начале мая администрация США провела встречу с разработчиками ИИ-систем и призвала их к осторожности, поскольку создание неконтролируемых ИИ-систем может иметь непредсказуемые последствия. В конце месяца был опубликован новый стратегический план исследований и разработок США в области искусственного интеллекта.

Однако никаких конкретных мер регулирования ИИ-технологий ни администрация США, ни Конгресс пока не ввели, отмечает издание. В письме также подчёркивается, что законодатели в настоящее время рассматривают проекты регулирующих ИИ документов, однако их фокус направлен скорее на нацбезопасность и вопросы, связанные с образованием, о безопасности же детей пока никто не подумал.