Дискуссия о пределах ИИ: Мелони еще на G7 требовала глобальных рамок до предупреждения Anthropic
Премьер-министр призывает к «технологическому гуманизму» как ориентиру для будущего и предлагает глобальные стандарты защиты труда, частной жизни и человеческого суверенитета; эта инициатива прозвучала в её июньском выступлении в Эвиане, недавно опубликованном в Италии.
В возобновившейся дискуссии о возможностях и ограничениях искусственного интеллекта (ИИ) , разгоревшейся после апокалиптического сценария, описанного бывшим сотрудником Anthropic , и последующего призыва основателя компании Дарио Амодеи притормозить развитие этой технологии, на первый план выходит политика.
Дональд Трамп оперативно отреагировал на призывы Амодеи , который при поддержке Сэма Альтмана из OpenAI и других лидеров IT-гигантов , включая Илона Маска, в интервью CBS в воскресенье предупредил о необходимости «мер безопасности» и «роли для государств и общества» наряду с частными компаниями в развитии ИИ.
«Соединённые Штаты опережают Китай в гонке искусственного интеллекта и должны сохранить это преимущество. Кто выигрывает гонку ИИ, тот выигрывает всё», — заявил на выходных во время своего визита в Ирландию президент США, который на церемонию своего вторичного вступления в должность в Белом доме в январе 2025 года пригласил всех руководителей национальных технологических компаний.
А на саммите G7 в Эвиане в июне этого года, напротив, Джорджа Мелони , согласно её выступлению, опубликованному в понедельник в газете La Stampa , призвала выработать правила, которые помогут сформировать общее будущее.
Мелони об ИИ: «Нам нужен моральный компас»
«Искусственный интеллект — это не просто очередная промышленная революция ; это самая мощная и взрывная технологическая революция в истории человеческого рода. Только на этот раз, — сказала итальянский премьер мировым лидерам во Франции, — мы впервые не создаём инструмент, усиливающий нашу физическую силу или скорость вычислений, а делегируем машине функцию, которая до сих пор определяла саму специфику человеческого существа: мышление ».
Мелони пояснила, что именно эта вступительная часть её речи была написана с помощью искусственного интеллекта , чтобы показать, что «жить в мире, в котором больше нельзя отличить правду от лжи, — значит просто отказаться от основы демократии».
Отсюда ключевой вопрос, который через три месяца вновь вышел на передний план. «Какое решение вы предлагаете? И главное: готовы ли мы договориться о глобальных стандартах , обязательных для отслеживания контента, создаваемого ИИ, — обратилась премьер к участникам встречи в Эвиане, — или позволим рынку самому решать, что должно считаться правдой?»
Какие ограничения и правила можно ввести для ИИ
Прежде чем выступить с призывом к замедлению развития моделей искусственного интеллекта ( здесь полный текст выступления , опубликованный в субботу на английском под заголовком We must pace the Frontier ), гендиректор Anthropic Амодеи написал в Белый дом, добиваясь государственного вмешательства . Со своей стороны Альтман (после переноса сроков публичного размещения OpenAI) выразил надежду, что такое регулирование удастся выработать совместно США и Китаю , второй крупной движущей силой глобального развития ИИ.
Не случайно председатель КНР Си Цзиньпин на саммите БРИКС недавно выдвинул идею создания зоны искусственного интеллекта между 11 странами-членами группы . И, по‑видимому, с этими позициями связано и то, что, начиная от систем вооружений США и до войны в Украине и Газе, искусственный интеллект уже играет преобладающую роль в военной сфере.
Во Франции, одной из стран, которые задают тон в разработке принципов защиты подростков от злоупотребления социальными сетями, Мелони, однако, акцентирует внимание на третьем элементе, который она описывает как «технологический гуманизм» , ставящий в центр нужды и права человека — к чему, в свою очередь, призывает и папа Лев XIV в своей первой энциклике.
«Если алгоритм рискует вытеснить интеллект, если машина способна заменить работника на всех уровнях, мы обязаны обозначить и защитить границы этого человеческого суверенитета , — сказала она, подчеркнув, что это должно быть „общим обязательством“, в которое должны быть вовлечены и крупные технологические компании.
« Какими полномочиями располагает политика и какие обязательства могут взять на себя крупные компании? » — спросила Мелони, обозначив три параметра, которые должны направлять развитие искусственного интеллекта: достоинство труда , контроль над агентами ИИ , которые становятся всё более автономными и несут риск непредсказуемых действий, а также защиту данных и цифровой идентичности в условиях массовой дезинформации.
Своё рассуждение она завершила своего рода заблаговременным ответом на предостережение Трампа относительно недопустимости утраты преимущества в конкуренции с Китаем.
«Но уверены ли мы, что — западное конкурентное преимущество — сохранится? Если верно, а это верно, что ИИ прежде всего является мультипликатором данных, то уверены ли мы, что в долгосрочной перспективе именно режимы не будут располагать наибольшим объёмом данных для обработки , — заключила итальянский лидер, — ведь у них нет правил, например по защите конфиденциальности, предусмотренных в демократических системах».
Euronews