В Калифорнии вступил в силу новый закон, запрещающий хранение и распространение материалов, связанных с сексуальной эксплуатацией детей (CSAM), даже если они были созданы с использованием технологий искусственного интеллекта. Документ был одобрен в конце прошлого года и начал действовать с 1 января. Уже спустя несколько дней после его вступления в силу полиция Сакраменто задержала первого подозреваемого – 49-летнего карикатуриста Даррина Белла, обладателя престижной Пулитцеровской премии.
Согласно новому закону, распространение любых материалов CSAM, включая изображения, сгенерированные нейросетями, признаётся вредным, поскольку может использоваться для манипулирования детьми и внушения им ложных представлений о допустимости таких действий со стороны взрослых. Особую обеспокоенность вызывает использование искусственного интеллекта, поскольку обучающие алгоритмы работают на базе обширных баз данных, содержащих изображения реальных жертв преступлений, что приводит к повторной виктимизации.
В законе искусственный интеллект определяется как технология, способная автономно или полуавтономно генерировать контент, влияющий на физическую или цифровую среду.
Расследование в отношении Белла началось после сигнала от Национального центра по делам пропавших и эксплуатируемых детей. Сотрудники специализированного подразделения полиции Сакраменто (ICAC) выявили в сети 18 файлов с запрещённым контентом, которые связали с аккаунтом карикатуриста. В ходе дальнейшей проверки выяснилось, что на его устройстве хранилось не менее 134 подобных файлов, включая материалы, сгенерированные искусственным интеллектом.
После обыска в доме художника правоохранительные органы изъяли доказательства, подтверждающие обвинения. Белл был арестован, сумма залога составила 1 миллион долларов. По заявлению полиции, это первый случай в регионе, когда подозреваемому предъявлены обвинения в хранении CSAM, созданного с использованием нейросетей.
Даррин Белл, известный своими критическими карикатурами, обличающими несправедливость и социальные проблемы, получил Пулитцеровскую премию в 2019 году. Его работы поднимали темы неравенства и политической лжи. Однако в свете нового скандала репутация карикатуриста оказалась под угрозой.
Расследование продолжается, и этот случай уже привлёк внимание общественности, поднимая вопросы о моральной и правовой стороне использования искусственного интеллекта для создания запрещённого контента.
