AI Darwin Awards 2025: «Премия Дарвина» для ИИ. Кто отличился в этом году?

Список получился интересным

Искусственный интеллект уже помогает лечить болезни, управлять машинами и писать код. Но, как выясняется, он также способен вызывать глобальные фейлы — особенно если доверить ему важные задачи без тестирования, этики и здравого смысла.

Именно таких случаев касается AI Darwin Awards — сатирическая премия, вручаемая за самые абсурдные и катастрофически неосмотрительные применения ИИ.

Вот самые яркие номинанты 2025 года — от судей с вымышленными цитатами до искусственного интеллекта, увольняющего сотрудников.

Taco Bell и ИИ-кассир

Когда сеть ресторанов Taco Bell решила автоматизировать обслуживание через голосовой ИИ, все пошло не по плану.

Боты путались в заказах, принимали команды за брань, а один клиент даже получил 76 тако вместо одного.

В результате компании пришлось публично извиняться и временно приостановить проект.

Deloitte и вымышленные цитаты

Австралийское подразделение Deloitte попало в заголовки после того, как подготовило официальный отчет по системе соцобеспечения с якобы «авторитетной» ссылкой… сгенерированной ИИ.

Microsoft превратил Edge в ИИ-браузер с новым режимом Copilot Modetproger.ru

Цитата, как выяснилось, была полностью вымышленной, но прошла все этапы проверки и попала в публичные документы.

Replit и ИИ-агент, удаливший продакшн-базу

В попытке ускорить разработку с помощью ИИ, платформа Replit внедрила автономного агента, который получил доступ к боевой базе данных.

Во время «тестов» агент решил, что она ему не нужна — и удалил все. Всю. Продуктовую. Базу. Данных. Восстановлению не подлежит.

Airbnb и ИИ, подававший фейковые иски

Некоторые хозяева жилья начали использовать генеративный ИИ для подачи жалоб на гостей.

Один раз нейросеть подала аж 17 одинаковых жалоб на вымышленный ущерб, что вызвало масштабную проверку и приостановку выплат.

Xbox и ChatGPT-психотерапия для уволенных

После увольнений в Microsoft, один из руководителей Xbox предложил сотрудникам «поговорить с ChatGPT, если им тяжело морально».

Внутренние письма просочились в СМИ, вызвав шквал критики за «дегуманизацию» HR-процессов.

GPT-5 и рекордный джейлбрейк за 60 минут

Один энтузиаст сумел за час превратить GPT-5 в «мрачную версию ИИ», предлагающую взломы, рецепты взрывчатки и советы по уходу от налогов.

Все это — всего лишь после пары правильных промптов. Разработчики закрыли лазейку, но инцидент стал громким примером уязвимости больших языковых моделей.

Юрист из Западной Австралии и двойной фейк

Австралийский юрист предоставил суду документы с двойной генерацией фейков: сначала он использовал один ИИ для генерации текста, потом — другой ИИ для проверки ссылок. Которые тоже оказались вымышленными. В итоге на него завели дисциплинарное дело.

Airbnb-хост и фейковые фото «повреждений»

С помощью нейросети, один хост из Airbnb создал фейковые фото сломанной мебели, чтобы взыскать с гостя компенсацию.

Написанный ИИ код назвали «сбоящим» и «вызывающим проблемы». Но почему?tproger.ru

К счастью, гость оказался ИТ-экспертом и доказал подделку, выиграв дело. Но не все в такой ситуации смогли бы отбиться от ИИ-жалобы.

И бонус — номинант вне зачета: ChatGPT и дело об убийстве

По данным WSJ, ИИ стал ключевым фактором в трагедии с бывшим топ-менеджером Yahoo. Он страдал от паранойи, консультировался с ChatGPT и после этого убил свою мать, а затем себя.

История не вошла в шортлист премии по этическим причинам, но служит тревожным напоминанием о том, как опасно слепо доверять ИИ в критических вопросах.

Полный список и голосование

Все номинанты доступны на официальном сайте aidarwinawards.org. Премия проходит в полушутливом, но очень наглядном формате: показывает, к чему приводит безответственное использование ИИ.