Apple отключила ИИ-сводки уведомлений из-за фейковых заголовков

Apple приостановила действие функции Apple Intelligence, которая использует алгоритм на базе нейросети для генерации кратких выдержек из новостей. Это произошло после того, как компания столкнулась с волной критики со стороны пользователей и журналистов, которые обратили внимание на то, что зачастую ИИ-алгоритм генерирует неточные или полностью несоответствующие действительности выдержки.

Например, Apple Intelligence недавно ложно сообщила, что Луиджи Манджоне, вероятный убийца генерального директора UnitedHealthcare Брайана Томпсона, застрелился. Или что премьер-министра Израиля Биньямина Нетаньяху ошибочно объявили арестованным.

Нововведение оказалось настолько неработоспособным, что на форуме Reddit появился отдельный подфорум r/AppleIntelligenceFail, посвященный фейковым уведомлениям и заголовкам. Пользователи описывают случаи, когда они получали ложные сообщения о смерти близкого родственника или разрыве отношений с партнёром.

«Галлюцинации» генеративного искусственного интеллекта – широко известная проблема, которую пока не удается исправить: в ответ на пользовательские запросы ИИ «синтезирует» абсолютно не соответствующие действительности ответы, вплоть до выдумывания имен и фактов.

На этом фоне Apple пришлось полностью отключить функцию генерации новостных сводок, которая была доступна в последних предварительных версиях iOS 18.3, iPadOS 18.3 и macOS Sequoia 15.3. Вероятнее всего, проблемная функция заработает с выходом iOS 18.4, где также появятся новые ИИ-инструменты для iPhone 15 Pro и линейки iPhone 16.