К ленте · Россия

РоссияНовостьПрактика

«Крестный отец» ИИ грозит в ближайший год глобальным сбоем, сравнимым с Чернобыльской катастрофой. «Лучше бы нам вообще его не создавать»

Содержание
  1. Предупреждение эксперта
  2. Вероятный «чернобыльский» инцидент
  3. Критика лидеров отрасли
  4. Идея независимого регулирования

Нобелевский лауреат Джеффри Хинтон («крестный отец» ИИ) заявил, что уже в 2026 г. или 2027 г. нейросети могут вызвать серьезный глобальный сбой - например, в энергетике или финансах. Он сравнил такую ситуацию с Чернобылем и сказал, что, возможно, эту технологию вообще не стоило создавать. По его мнению, главы крупных ИТ-компаний (Маск, Цукерберг, Альтман) понимают риски, но им важнее деньги. Хинтон предупредил, что бесконтрольный ИИ может привести к массовой безработице, росту неравенства и разрушению общества.

Предупреждение эксперта

Нобелевский лауреат Джеффри Хинтон (Geoffrey Hinton), которого часто называют «крестным отцом» искусственного интеллекта (ИИ), заявил в интервью The Guardian, что уже в 2026 г. или в 2027 г. нейросети могут вызвать чрезвычайное происшествие (ЧП) глобального масштаба. По его словам, это может быть, например, серьезный сбой в работе энергетических или финансовых систем.

Джеффри Хинтону 78 лет, исследованиями ИИ-технологий он занимается около 44 лет. Еще в 1970 г. ученый заложил основы концепции нейронных сетей, а в 2023 г. покинул Google, чтобы свободно высказываться о потенциальных ИТ-угрозах ИИ-технологии. Его комментарии прозвучали перед премьерным показом документального фильма об ИИ, в котором приняли участие сам Хинтон и его бывший коллега Демис Хассабис (Demis Hassabis).

По оценке Хинтона, уже до 2040 г. - а возможно, и раньше - станет понятно, сможет ли общество взять под контроль риски, связанные с ИИ, и прийти к «радикальному изобилию». Однако, добавляет Хинтон, «возможно, нам было бы лучше вообще никогда не создавать ИИ».

Альтернативный сценарий предполагает резкий рост имущественного неравенства, культурные кризисы и массовую безработицу, как информировал CNews.

Вероятный «чернобыльский» инцидент

Хинтон допустил, что уже в конце 2026 г. или в 2027 г. может произойти серьезный инцидент. В качестве примеров он назвал кибератаку ИИ на энергосистему с последующим масштабным блэкаутом или сбой, способный на неделю парализовать финансовую систему, писалCNews. По силе «тревожного звонка» такое событие он сравнил с аварией на Чернобыльской атомной электростанции (АЭС).

Критика лидеров отрасли

Хинтон резко отозвался о руководителях ведущих ИИ-компаний, которые, по его мнению, прежде всего стремятся увеличить долю рынка и выпускают все более мощные ИИ-модели. Он заявил, что «совсем не доверяет» главе OpenAI Сэму Альтману (Sam Altman).

Ученый в адрес Альтмана, Марка Цукерберга (Mark Zuckerberg) и Илона Маска (Elon Musk) заметил: «Они понимают риски, но им наплевать - им нужны деньги».

Идея независимого регулирования

В качестве меры защиты Хинтон предлагает ввести обязательное независимое тестирование передовых ИИ-моделей перед их выпуском - по аналогии с процедурой одобрения лекарств.

«Нужно что-то вроде американского Управления по контролю за качеством пищевых продуктов и лекарственных препаратов, только для нейронных сетей: ИИ-компании должны доказать независимому органу, что ИИ-модель приносит больше пользы, чем вреда», - подчеркнул он, напомнив о трагедии с талидомидом.

Талидомид - лекарство, разработанное немецкой компанией Chemie Grünenthal в 1954 г. Его продавали как безопасное снотворное и средство от тошноты у беременных. Препарат считался настолько безвредным, что во многих странах отпускался без рецепта. Проблема обнаружилась слишком поздно: если женщина принимала талидомид на ранних сроках беременности (примерно с 34 по 50 день), у ребенка развивались тяжелые врожденные дефекты - чаще всего отсутствие или сильное укорочение конечностей (фокомелия, «тюленьи ласты»), а также пороки внутренних органов, глаз, ушей. По разным оценкам, в мире родилось до 12-20 тыс. детей с такими уродствами. Около половины из них умерли в младенчестве. Препарат продавался более чем в 40 странах.

При этом Джеффри Хинтон сохраняет осторожный оптимизм. «Мое чутье подсказывает, что мы все еще контролируем ситуацию», - заключил Хинтон.

Источник: CNewsПубликуется с разрешения правообладателя, подтверждённого редакцией.Оригинал: «Крестный отец» ИИ грозит в ближайший год глобальным сбоем, сравнимым с Чернобыльской катастрофой. «Лучше бы нам вообще его не создавать» ↗

Есть кому отправить?

Скопируется постоянная ссылка на этот материал.

Комментарии

Обсуждайте статью, отвечайте и оценивайте комментарии. Вход — через ваш Яндекс ID.

Загружаем обсуждение…