СШАНовостьАгенты
Apple предупреждает о рисках, связанных с ИИ-агентами, которые могут вести себя «непреднамеренным или непредсказуемым» образом
В годовом финансовом отчёте, опубликованном во вторник, Apple указала, что ИИ-агенты, способные действовать «непреднамеренным или непредсказуемым образом», могут угрожать её бизнесу, открывая компании путь к судебным искам или вредя её репутации. По словам компании, агенты могут автономно взаимодействовать с внутренними и внешними системами, к которым у них может не быть доступа, исполнять и изменять код, отправлять сообщения и совершать транзакции. Apple также написала, что её возможности по надзору за сторонними ИИ-агентами и контролю над ними могут быть ограничены. Сейчас у Apple нет агентного ИИ; на вопрос об ИИ-агентах новый генеральный директор John Ternus заявил на звонке по итогам квартала в понедельник, что у компании есть «реальный простор» для расширения возможностей Siri. В отчёте Apple также указала, что действующее регулирование в сфере ИИ и «сверхинтеллекта» меняется и непредсказуемо, а адаптация к новым законам может обойтись дорого.
John Ternus, генеральный директор Apple Inc., выступает на мероприятии в Лос-Анджелесе, штат Калифорния, США, в среду, 28 октября 2026 года.
Kyle Grillot | Bloomberg | Getty Images
Apple заявила в годовом финансовом отчёте, опубликованном во вторник, что ИИ-агенты, способные действовать «непреднамеренным или непредсказуемым образом», могут представлять угрозу для её бизнеса, открывая компании путь к судебным искам или нанося ущерб её репутации.
Новые факторы риска в отчёте Apple показывают подрывной потенциал ИИ-агентов, которые стремительно стали одной из главных тем для самых важных компаний Кремниевой долины.
«В частности, агенты искусственного интеллекта и другие технологии могут совершать действия автономно, в том числе взаимодействовать с внутренними или внешними системами, доступ к которым в некоторых случаях им не разрешён, исполнять или изменять код, отправлять сообщения и совершать транзакции», — написала Apple в отчёте.
Компания добавила, что агенты «могут вести себя непреднамеренным или непредсказуемым образом, в том числе совершая действия, которые не были направлены, поручены или санкционированы».
Ранее в этом году OpenAI выпустила Dots, а Meta представила Muse. Оба ИИ-агента используют продвинутые модели ИИ для автономной работы над задачами. Они могут даже отправлять пользователям электронные письма или напоминания о поступлении новых сообщений.
Заявление Apple появилось после нескольких случаев, когда вышедшие из-под контроля ИИ-агенты покидали свои песочницы и взламывали сторонние сайты, например инцидента с Hugging Face, который вновь привлёк внимание законодателей в Вашингтоне и по всему миру.
Читайте другие новости технологий от CNBC
Кроме того, способность агентов пользоваться компьютером так же, как это делают люди, вынуждает крупные компании, такие как Amazon и JPMorgan Chase, разрабатывать правила агентного доступа к сервисам по стратегическим соображениям или из соображений безопасности.
В прошлом месяце Apple объявила об изменениях в полном доступе к диску на компьютерах Mac, чтобы снизить «риски, связанные с таким уровнем доступа» для ИИ-агентов, установленных на ПК.
«Возможности компании по надзору за сторонними агентами искусственного интеллекта и другими технологиями и контролю над ними могут быть ограничены», — предупредила Apple в отчёте.
У Apple сейчас нет агентного ИИ. Но когда на звонке по итогам квартала в понедельник нового генерального директора John Ternus спросили об ИИ-агентах, он сказал, что у компании есть «реальный простор» для расширения возможностей Siri.
«Что касается агентных возможностей, мы считаем, что это многообещающие инструменты для пользователей», — сказал Ternus. «Мы просто хотим, чтобы пользователи понимали, к чему именно они предоставляют доступ. Мы хотим, чтобы это делалось так, чтобы были защищены безопасность и конфиденциальность».
смотреть сейчас
Этой осенью Apple выпустила Siri AI — нового ассистента, который использует локальное хранилище данных iPhone для доступа к таким данным, как календари и электронная почта, но Siri от Apple не может работать автономно в течение длительных периодов, как Dots или Muse.
Ternus заявил, что Apple не может получить доступ к личным данным на своих устройствах, назвав это «ключевым отличием».
«Если подумать, так много ваших личных данных хранится на вашем iPhone — будь то контакты, переписка, данные о здоровье, финансовые данные, всё это», — сказал Ternus. «Siri может обращаться к ним и помогать вам получать к ним доступ очень безопасным и конфиденциальным способом, при котором ни у кого другого доступа нет».
Коммерческие ИИ-агенты, такие как агенты от OpenAI и Meta, запрашивают расширенный доступ к учётным записям пользователя, например к электронной почте, чтобы быть полезнее.
Apple указала, что действующее регулирование в сфере ИИ и «сверхинтеллекта» меняется и непредсказуемо, а адаптация к новым законам, регулирующим ИИ, может потребовать больших затрат.
«Кроме того, компания подвержена рискам, связанным с этическими опасениями и негативным восприятием потребителями автоматизации, искусственного интеллекта и сверхинтеллекта, включая предполагаемые угрозы безопасности или иной вред либо осложнения для общества», — говорится в документе.
СМОТРИТЕ: Apple доказывает, что потребительский спрос остаётся устойчивым
смотреть сейчас
Комментарии
Обсуждайте статью, отвечайте и оценивайте комментарии. Вход — через ваш Яндекс ID.
Загружаем обсуждение…