Губернатор Калифорнии Гэвин Ньюсом подписывает три законопроекта, направленных на противоправное использование видео, аудио и изображений, созданных искусственным интеллектом, в рамках широкомасштабных усилий по борьбе с дипфейками выборов.
Ньюсом подписал пообещал принять законопроект после того, как в июле миллиардер и генеральный директор технологической компании Илон Маск распространил на своей платформе X видео с поддельными кадрами вице-президента и кандидата в президенты от Демократической партии Камалы Харрис.
Губернатор подписал законопроекты во время беседы у камина с генеральным директором Salesforce (CRM) Марком Бениоффом на ежегодной конференции Dreamforce в Сан-Франциско во вторник.
А AB 2839 запрещает отдельным лицам создавать или публиковать ложный контент о кандидатах и работниках выборов, созданный с помощью ИИ, в течение 120 дней до и 60 дней после выборов. Эта мера также позволяет судье приказать удалить контент и выписать штраф. Мера содержит пункт о срочности — вступает в силу немедленно.
Поддельное аудио Харрис, которым поделился Маск, достигло почти 140 миллионов просмотров за лето. В deepfake голос Харрис изменен, чтобы сказать: «Я, Камала Харрис, ваш кандидат от Демократической партии на пост президента, потому что Джо Байден наконец-то разоблачил его маразм», добавив, что ее выбрали «потому что я — лучший кандидат на должность кандидата в президенты», как «и женщина, и цветной человек».
Видео содержало отредактированные фрагменты прошлых выступлений вице-президента, но использовало голос, сгенерированный искусственным интеллектом. YouTuber, который изначально опубликовал видео, раскрыл, что это была пародия. Но Маск не пометил контент как вводящий в заблуждение, вместо этого написав: «Это потрясающе». Публикация была явным нарушением правил X.
В то время Ньюсом ответил Маску, разместив на X: «Манипуляция голосом в «рекламе», подобной этой, должна быть незаконной. Я подпишу законопроект в течение нескольких недель, чтобы убедиться, что это так».
Калифорния взяла на себя инициативу по регулированию искусственного интеллекта, представив волну законов в этом году. Несмотря на опасения чрезмерного регулирования новых технологий, аналитики рассматривают новые законы как шаг в правильном направлении.
"Я думаю, что это будет позитивно и также заставит людей более комфортно размещать рекламу на этих платформах", — сказал Yahoo Finance директор по инвестициям Harvest Portfolio Management Пол Микс.
"За последние несколько лет вся защита исходила от Европейского союза. Мы живем по этим правилам 1996 года и с тех пор их не меняли. По сути, мы играем вторую скрипку после ЕС в этом вопросе — мы, вероятно, должны быть лидерами"
Ньюсом также подписал два законопроекта, связанных с SAG-AFTRA, — AB 2602 и AB 1836, — направленных на защиту исполнителей от несанкционированного использования ИИ. В прошлом году члены SAG-AFTRA объявили забастовку против крупных студий и стримеров. Исполнители заявили о своей победе, когда их новый контракт предложил компенсацию за использование их «цифровых двойников».
Возможно, самый спорный законопроект об ИИ, все еще лежащий на столе Ньюсома: SB 1047. Мера по искусственному интеллекту, введенная сенатором-демократом Скоттом Винером, потребует от разработчиков крупных моделей ИИ проходить тестирование на безопасность перед развертыванием технологии.
SB 1047 глубоко расколол технические и политические сообщества — многие из которых утверждают, что он подавит инновации. Сторонники говорят, что это заставит технологические компании, включая OpenAI, Meta и Google (GOOG), быть более агрессивными в обеспечении безопасности новых функций ИИ.
Хотя Ньюсом не обозначил, планирует ли он подписать или наложить вето на этот законопроект, инсайдеры говорят, что он может встать на сторону своего давнего союзника, бывшего спикера Палаты представителей Нэнси Пелоси, которая его раскритиковала.
Ясмин Хоррам — старший репортер Yahoo Finance. Подпишитесь на Yasmin в Twitter/X @YasminKhorram и на LinkedIn. Отправляйте Ясмин полезные советы: yasmin.khorram@yahooinc.com
