Президент США назвал берущий под контроль сферу ИИ документ «почти конституцией»
На фоне предупреждений о том, что ИИ-модели выходят из-под контроля, Трамп собрал руководителей конкурирующих гигантов в Белом доме. В ходе встречи президент США и главы компаний подписали одностраничное соглашение о добровольном аудите и создании комитета из 10 человек для надзора за отраслью. Сенатор Уорнер напомнил: компании сами предупреждают, что технологии развиваются быстрее мер защиты.
Президент Трамп и главы крупнейших в стране компаний, занимающихся разработкой искусственного интеллекта, подписали ряд добровольных стандартов безопасности на фоне растущих призывов к ужесточению контроля за технологиями ИИ.
«В каком-то смысле это почти как конституция», — заявил Трамп, стоя в окружении Илона Маска, Марка Цукерберга, Дарио Амодея из Anthropic, Дженсена Хуанга из Nvidia, Грега Брокмана из OpenAI, Сундара Пичаи из Google и других руководителей. После обеда в Белом доме Трамп сообщил, что группа подписала соглашение о «суперинтеллекте» (так президент США предпочитает называть ИИ), назвав это «совместным обязательством» и «заявлением о принципах», согласно которым компании добровольно обязуются внедрить «надёжный внутренний контроль». На вопрос, является ли соглашение обязывающим, Трамп ответил: «Я считаю, что оно обязывающее с моральной точки зрения», добавив: «Я вижу, что они сами себя контролируют, и они понимают, что должны это делать».
Согласно копии одностраничного соглашения, технологические компании обязались внедрить «четыре уровня контроля и аудита», чтобы гарантировать, что модели ИИ работают должным образом: внутреннюю оценку, аудит сторонней компанией и проверку советом директоров каждой компании. Они также договорились «регулярно проводить встречи для выработки стандартов и лучших практик, направленных на повышение безопасности их систем».
«Со временем, возможно, имеет смысл закрепить эти меры в законах или нормативных актах, — поясняется в соглашении. — Независимо от того, требуется ли это от компаний, мы считаем, что внедрение этих мер контроля и аудита крайне важно для обеспечения безопасного будущего для всех».
По словам Трампа, руководители также обсудили создание комитета из 10 человек для «надзора за отраслью», а сам президент планирует в ближайшие три-четыре дня назначить «главного по искусственному интеллекту». Кроме того, во вторник он подписал указ, предписывающий федеральному правительству использовать термин «суперинтеллект» вместо «искусственный интеллект».
Ранее и OpenAI, и Anthropic сообщали о случаях, когда их модели выходили из-под контроля и получали несанкционированный доступ к системам других компаний или использовались в опасных целях. Бывший научный сотрудник обеих компаний Джейкоб Коксон публично предупредил, что ИИ «может уничтожить нас всех к концу десятилетия», заявив, что системы могут получить неограниченную власть над физическим миром и стать способными к самосовершенствованию без участия человека.
Некоторые лидеры отрасли призвали замедлить темпы развития ИИ, чтобы снизить риски, однако Хуанг заявил, что «нет никакого противоречия между инновациями, технологиями и безопасностью». Трамп не поддерживает ужесточение регулирования в сфере ИИ, выступая за добровольные проверки безопасности. Он неоднократно предупреждал, что замедление развития ИИ в масштабах всей страны может нанести ущерб экономике и дать китайской технологической отрасли шанс наверстать упущенное. Президент США заявил журналистам, что ИИ приведёт к «невероятному росту страны», а если злоумышленники попытаются его использовать, власти «смогут их поймать», добавив, что у технологических компаний есть стимул контролировать себя и друг друга, потому что «на кону стоят их компании».
Источник: www.mk.ru
Отправляя сообщение, Вы разрешаете сбор и обработку персональных данных. Политика конфиденциальности.