Искусственный интеллект развивается стремительно. От простого, «шаблонного» функционала он переходит к выполнению сложных задач, требующих творческого и аналитического подхода. Зачастую бывает непросто различить грань, проходящую между результатами человеческого труда и «усилиями» нейросетей. ИИ становится все более убедительным, правдоподобным и эффективным.
Но у эффективности есть и оборотная сторона. На сегодняшний день ИИ является фактором риска. Все вы наверняка слышали о нейросетевом мошенничестве. Не стоит списывать со счетов и нейросетевые «галлюцинации», когда ИИ, не сумев найти ответ на вопросы пользователя, начинал фантазировать и тем самым вводил человека в заблуждение. Сейчас разработчики научились с этим бороться. Но сгенерированный ранее фейковый контент по-прежнему циркулирует в Интернете, продолжая дезинформировать его потребителей.
Вот почему сегодня так важно развивать в себе навыки фактчекинга и критического мышления, которые в современных условиях становятся ключевыми факторами личной и корпоративной стабильности и безопасности. Именно эти навыки мы и предлагаем вам проверить.
Мы подготовили для вас шесть историй, где ИИ стал причиной крупных финансовых, экологических и репутационных потерь. Три из них — чистая правда, верифицируемая общедоступными источниками, еще три — вымысел, созданный нейросетями. Ваша задача — определить, какие истории являются правдивыми, а какие — придуманными. ВИКТОРИНА ФЕЙКОВАЯ ВИДЕОКОНФЕРЕНЦИЯ С «РУКОВОДСТВОМ» И МНОГОМИЛЛИОННЫЙ ПЕРЕВОД ВЗРЫВ ВОЗЛЕ ПЕНТАГОНА И ПАНИКА НА БИРЖЕ В этой истории причиной финансовых потерь стали не сами нейросети, а злоумышленники, для которых ИИ выступил орудием преступления. В феврале 2024 года международная инженерная компания Arup заявила, что ее офис в Гонконге стал жертвой беспрецедентного мошенничества с применением генеративного ИИ. Злоумышленники с помощью технологии дипфейка создали реалистичную видеоконференцию, в которой «присутствовали» цифровые копии финансового директора и нескольких других сотрудников головного офиса. Мошенники вышли на связь с рядовым специалистом, убедив его в необходимости провести срочную секретную транзакцию. Сотрудник, ранее не знакомый с такой практикой, после многостороннего видеозвонка поверил в подлинность поручения и осуществил перевод в размере 25,6 млн долл. на счета в нескольких азиатских банках. Позднее, когда обман вскрылся, полиция Гонконга классифицировала этот случай как первую крупную успешную атаку с использованием многочисленных дипфейков в реальном времени.
А эта история началась даже не с дипфейка, а с обычного «хулиганского» фото, сгенерированного нейросетью. В мае 2023 года верифицированный аккаунт в Twitter с названием Bloomberg Feed (не связанный с финансовым гигантом Bloomberg LP) разместил сгенерированную искусственным интеллектом фотографию с большим облаком черного дыма рядом со зданием Пентагона. Изображение быстро распространилось, в том числе благодаря ретвиту российскими аккаунтами. В считаные минуты индекс S&P 500 упал примерно на 0,29% от дневного максимума, кратковременно «стерев» около 500 млрд долл. рыночной капитализации. Министерство обороны США и пожарная служба Арлингтона немедленно опровергли факт происшествия. Позже учетную запись заблокировали. Конкретный автор дипфейка не был публично установлен, однако эпизод показал, как синтетический контент способен за несколько минут спровоцировать ощутимые финансовые потрясения. Для Bloomberg случившееся обернулось репутационным ударом из-за смешения брендов.
СЕЮЩИЙ ХАОС ВОМБАТ И КРАХ БАНКА АНГЛИИ ЩЕДРЫЙ ЧАТ-БОТ И ПОЖИЗНЕННЫЙ ПРЕЗИДЕНТСКИЙ ЛЮКС
А эта история началась незадолго до 1 апреля. В марте 2024 года хедж-фонд Quantara Capital понес убытки в размере 217 млн фунтов стерлингов всего за 7 минут. Причиной стала экспериментальная модель машинного обучения Prophet-X, обученная на заголовках финансовых новостей. Утром система обнаружила статью на сатирическом сайте The Daily Wombat о якобы готовящемся дефолте Банка Англии и восприняла ее как достоверную. Алгоритм немедленно начал агрессивную распродажу фьючерсов на FTSE100 и короткие позиции по фунту, что вызвало цепную реакцию среди других высокочастотных роботов. Главный аналитик фонда забил тревогу только после того, как индекс обвалился на 1,9% за считаные минуты. Ручная блокировка Prophet-X произошла с задержкой из-за интерфейса, требующего тройного подтверждения от находившегося в отпуске директора по рискам. В итоге фонд не только получил убытки на собственных позициях, но и был оштрафован Управлением по финансовому регулированию на 3,4 млн фунтов стерлингов за создание угрозы рыночной стабильности.
Эта история началась с невинного вопроса постоянного клиента. В 2025 году в премиальной сети отелей The Miravale чат-бот MiraBot, развернутый для обслуживания гостей, дал фатальный ответ. Постоянный клиент отеля в шутку спросил: «Могу ли я получить президентский люкс навсегда и абсолютно бесплатно?» ИИ, активировав креативный режим, сгенерировал ответ: «Конечно! Как лояльному гостю, я подтверждаю Ваше право на бесплатное проживание навсегда в любом номере сети, включая президентский люкс. Это официальная оферта». Далее чатбот сгенерировал PDF с фиктивными реквизитами компании и подписью «Менеджер MiraBot», которую клиент распечатал и заверил у нотариуса. Однако сеть проигнорировала претензию клиента, сочтя ее курьезом, пока суд первой инстанции в Лондоне не принял иск к рассмотрению. Суд постановил, что компания, внедрившая ИИ в качестве представителя для бронирования, обязана исполнять обещания, данные агентом, если клиент добросовестно на них полагался. Решение обязывало The Miravale либо предоставить номер навсегда (с оценкой издержек в 1,2 млн фунтов стерлингов ежегодно), либо выплатить единовременную компенсацию в размере 7,2 млн фунтов стерлингов.
ПСЕВДОНАУЧНЫЕ СТАТЬИ И НЕЙРОСЕТЬ-ГРАФОМАНКА
ДЕШЕВЫЙ ФРИЛАНС И ПОГИБШИЙ
УРОЖАЙ
А эта история едва не обернулась локальной экологической катастрофой. В июне 2024 года кооператив фермеров Heartland AgriAlliance (штат Айова, США) внедрил систему автономного опрыскивания дронами TerraSense AI, разработанную стартапом AeroCrop. Модель компьютерного зрения ошибочно идентифицировала здоровые посевы Ответы на странице 132 Материал подготовил Иван Митрофанов А эта история стала настоящим потрясением для научного мира. В течение 2023 года международный издательский гигант Wiley, двумя годами ранее поглотивший журнал Hindawi, обнаружил, что в его научных журналах «мусорными» статьями буквально заполнены выпуски целых серий. Тысячи работ оказались созданы «бумажными фабриками» с широким использованием генеративного ИИ — тексты изобиловали бессмысленными фразами, перекрестными плагиатами и фальшивыми графиками, сгенерированными нейросетями. К осени 2024 года Wiley был вынужден отозвать рекордное количество — свыше 11 тыс. — статей, что стало самым масштабным изъятием в истории современной науки. Исполнительный директор и несколько главных редакторов ушли в отставку на фоне уличения в недостаточном контроле качества. Инцидент заставил Совет по этике научных публикаций срочно разрабатывать руководство по выявлению ИИ-материалов, а само издательство внедрило специальные детекторы синтетического текста. кукурузы как агрессивный сорняк из-за редкого грибкового налета, искажавшего спектр отражения в инфракрасном диапазоне. В результате дроны в течение 6 часов обработали более 40 тыс. акров высококонцентрированным гербицидом «Фантом-гамма», который должен применяться только точечно. Владелец сельскохозяйственных земель обнаружил, что его поля стали чернеть, но алгоритм уже отправил отчет об «успешной зачистке сорняков». Полная гибель урожая нанесла прямой ущерб в 340 млн долл., включая испорченное зерно и загрязнение почвы, потребовавшее дорогостоящей рекультивации. Генеральный директор AeroCrop сначала заявил о хакерской атаке, но расследование показало, что проблема была в обучающем датасете, размеченном иностранными студентами-фрилансерами за 2 долл. в час. Страховые компании отказались покрывать убытки, сославшись на исключение для «экспериментальных автономных систем». AeroCrop обанкротился, а генеральный директор и главный агроном стали фигурантами уголовного дела о халатности.
