РоссияНовостьПрактика
«Крестный отец» ИИ грозит в ближайший год глобальным сбоем, сравнимым с Чернобыльской катастрофой. «Лучше бы нам вообще его не создавать»
Содержание
Нобелевский лауреат Джеффри Хинтон («крестный отец» ИИ) заявил, что уже в 2026 г. или 2027 г. нейросети могут вызвать серьезный глобальный сбой - например, в энергетике или финансах. Он сравнил такую ситуацию с Чернобылем и сказал, что, возможно, эту технологию вообще не стоило создавать. По его мнению, главы крупных ИТ-компаний (Маск, Цукерберг, Альтман) понимают риски, но им важнее деньги. Хинтон предупредил, что бесконтрольный ИИ может привести к массовой безработице, росту неравенства и разрушению общества.
Предупреждение эксперта
Нобелевский лауреат Джеффри Хинтон (Geoffrey Hinton), которого часто называют «крестным отцом» искусственного интеллекта (ИИ), заявил в интервью The Guardian, что уже в 2026 г. или в 2027 г. нейросети могут вызвать чрезвычайное происшествие (ЧП) глобального масштаба. По его словам, это может быть, например, серьезный сбой в работе энергетических или финансовых систем.
Джеффри Хинтону 78 лет, исследованиями ИИ-технологий он занимается около 44 лет. Еще в 1970 г. ученый заложил основы концепции нейронных сетей, а в 2023 г. покинул Google, чтобы свободно высказываться о потенциальных ИТ-угрозах ИИ-технологии. Его комментарии прозвучали перед премьерным показом документального фильма об ИИ, в котором приняли участие сам Хинтон и его бывший коллега Демис Хассабис (Demis Hassabis).
По оценке Хинтона, уже до 2040 г. - а возможно, и раньше - станет понятно, сможет ли общество взять под контроль риски, связанные с ИИ, и прийти к «радикальному изобилию». Однако, добавляет Хинтон, «возможно, нам было бы лучше вообще никогда не создавать ИИ».
Альтернативный сценарий предполагает резкий рост имущественного неравенства, культурные кризисы и массовую безработицу, как информировал CNews.
Вероятный «чернобыльский» инцидент
Хинтон допустил, что уже в конце 2026 г. или в 2027 г. может произойти серьезный инцидент. В качестве примеров он назвал кибератаку ИИ на энергосистему с последующим масштабным блэкаутом или сбой, способный на неделю парализовать финансовую систему, писалCNews. По силе «тревожного звонка» такое событие он сравнил с аварией на Чернобыльской атомной электростанции (АЭС).
Критика лидеров отрасли
Хинтон резко отозвался о руководителях ведущих ИИ-компаний, которые, по его мнению, прежде всего стремятся увеличить долю рынка и выпускают все более мощные ИИ-модели. Он заявил, что «совсем не доверяет» главе OpenAI Сэму Альтману (Sam Altman).
Ученый в адрес Альтмана, Марка Цукерберга (Mark Zuckerberg) и Илона Маска (Elon Musk) заметил: «Они понимают риски, но им наплевать - им нужны деньги».
Идея независимого регулирования
В качестве меры защиты Хинтон предлагает ввести обязательное независимое тестирование передовых ИИ-моделей перед их выпуском - по аналогии с процедурой одобрения лекарств.
«Нужно что-то вроде американского Управления по контролю за качеством пищевых продуктов и лекарственных препаратов, только для нейронных сетей: ИИ-компании должны доказать независимому органу, что ИИ-модель приносит больше пользы, чем вреда», - подчеркнул он, напомнив о трагедии с талидомидом.
Талидомид - лекарство, разработанное немецкой компанией Chemie Grünenthal в 1954 г. Его продавали как безопасное снотворное и средство от тошноты у беременных. Препарат считался настолько безвредным, что во многих странах отпускался без рецепта. Проблема обнаружилась слишком поздно: если женщина принимала талидомид на ранних сроках беременности (примерно с 34 по 50 день), у ребенка развивались тяжелые врожденные дефекты - чаще всего отсутствие или сильное укорочение конечностей (фокомелия, «тюленьи ласты»), а также пороки внутренних органов, глаз, ушей. По разным оценкам, в мире родилось до 12-20 тыс. детей с такими уродствами. Около половины из них умерли в младенчестве. Препарат продавался более чем в 40 странах.
При этом Джеффри Хинтон сохраняет осторожный оптимизм. «Мое чутье подсказывает, что мы все еще контролируем ситуацию», - заключил Хинтон.
Комментарии
Обсуждайте статью, отвечайте и оценивайте комментарии. Вход — через ваш Яндекс ID.
Загружаем обсуждение…