Меню
RU

Дрон под управлением ИИ «убил» человека-оператора: симуляция или реальность?

Новость о том, что вышедший из-под контроля беспилотник на базе искусственного интеллекта обстрелял человека-оператора в военном симуляторе США, облетела все заголовки газет. Ажиотаж СМИ понятен — нас только что предупредил о «риске вымирания» от продвинутого ИИ не кто иной, как генеральный директор OpenAI Сэм Альтман, а до него Стивен Хокинг, который ещё в 2014 году предсказал, что ИИ «предвещает конец человеческой расы».

Поэтому сообщение о том, что беспилотник на основе ИИ «убил» человека-оператора, чей приказ не поражать враждебную цель помешал ему набрать очки, представляется логичным. Нас об этом предупреждали, и вот именно это и произошло. Восстание машин началось… или всё-таки нет?

Оригинальный скриншот отчёта VICE

Снимок экрана с оригинальным отчётом VICE на Wayback Machine

О чём первоначально сообщалось

Отчёт о «дроне-убийце» был основан на записи в блоге Королевского авиационного общества, где в конце мая состоялась презентация начальника отдела испытаний и операций ИИ ВВС США полковника Такера Гамильтона. В блоге авторы Тим Робинсон и Стивен Бриджуотер цитируют рассказ Гамильтона о «симуляции испытания», в котором ИИ-дрону была поставлена задача идентифицировать и уничтожить вражеские зенитные ракеты. Окончательное решение принимал человек-оператор. Однако в какой-то момент ИИ-беспилотник посчитал, что для выполнения его миссии будет эффективнее избавиться от человека, который время от времени мешает ему устранить вражеские цели.

Когда в ходе обучения ИИ получил чёткое указание не убивать человека, он якобы выбрал другую, не менее творческую стратегию: разрушил вышку связи, которую оператор использовал, чтобы сообщить беспилотнику о запрете на поражение цели.

Что отрицали американские военные?

Доклад вызвал волнения во всём мире, и не просто так. Кажется, он подтвердил все наши худшие опасения, а именно, что ИИ способен перечить человеческим приказам и играть против нас. И не когда-нибудь в далёком будущем, когда мы все уже давно превратимся в пепел, а сейчас.

Однако, как только сообщение стало вирусным, Гамильтон опроверг проведение этого эксперимента в реальном мире. Полковник заявил, что «оговорился» во время своей презентации. Он уточнил, что «симуляция» была не реальной военной симуляцией, а «мысленным экспериментом».

«Мы никогда не проводили этот эксперимент, и нам не нужно было бы проводить его, чтобы понять, что это правдоподобный результат».

Что ж, вам решать, принимать ли слова Гамильтона за чистую монету. Можно предположить, что американские военные, по крайней мере, попытаются провести такое моделирование, потому что почему бы и нет? Уже были опубликованы работы о возможном военном применении ИИ. Фактически, ИИ уже используется в системах вооружения под наблюдением человека. Не исключено, что американские военные попытались оценить риски, которые могут возникнуть при попытке ещё больше автоматизировать процесс выбора целей.

Эксперимент может и не быть реальным, но опасность есть

Хотя вопрос о том, действительно ли американские военные проводили такие эксперименты, действительно интригует, на самом деле это не главное. Основная проблема заключается в том, что, если отбросить этику (а она обычно не самая сильная сторона американских, да и любых других военных), ничто не мешает им их проводить, а это чревато смертельно опасными последствиями. Вот почему мы, как и многие другие, кому небезразлична проблема влияния ИИ на общество, не сомневались в реальности эксперимента до тех пор, пока не последовало опровержение (и даже, возможно, после него).

Если предположить, что эксперимент действительно проводился, американские военные будут не первыми свидетелями захвата власти ИИ. В рамках предрелизного тестирования наиболее продвинутой модели ИИ GPT-4 компания OpenAI провела эксперимент, чтобы выяснить, проявляет ли он какие-либо склонности к «борьбе за власть», например, к выполнению долгосрочных планов и копированию себя для получения новых ресурсов. В ходе этого эксперимента GPT-4 успешно убедил человека решить для себя CAPTCHA, заставив его поверить, что это не робот. Окончательный вывод OpenAI о стремлении модели к власти был, тем не менее, обнадёживающим (для человека). OpenAI сочла модель *«неэффективной в автономном воспроизведении, приобретении ресурсов и избегании выключения "в дикой природе"».

Так неужели страхи по поводу окончательного захвата ИИ и надвигающегося апокалипсиса роботов слишком раздуты? Возможно, да, а возможно, и нет. С темпами развития ИИ его возможности становятся всё сложнее для понимания человеком. В каком-то смысле мы похожи на маленьких детей, играющих с коробком спичек, когда испытываем пределы возможностей ИИ.

Но это не означает, что мы должны полностью отказаться от искусственного интеллекта. У ИИ есть множество отличных способов применения, которые могут принести пользу человечеству в различных областях: открытие лекарств и образование — это лишь некоторые из них. Что нам нужно, так это более строго регулировать и ответственно использовать инструменты ИИ, чтобы они соответствовали человеческим ценностям и целям. Мы должны осознавать риски и проблемы, которые создаёт ИИ, но при этом использовать его возможности и потенциал. Мы должны с умом подходить к использованию ИИ, чтобы он даже не пытался «перехитрить» нас.

Понравился пост?

AdGuard для Windows

AdGuard для Windows — это не просто «ещё один блокировщик». Это многоцелевой инструмент, который блокирует рекламу и доступ к опасным сайтам, ускоряет загрузку страниц и защищает детей от взрослого контента.
Отзывы пользователей: 20453
4,7 из 5
Скачивая программу, вы принимаете условия Лицензионного соглашения
Читать далее

AdGuard для Mac

В отличие от других блокировщиков, AdGuard разработан с учётом специфики операционной системы macOS. Он не только блокирует рекламу в Safari и других браузерах, но и защищает вас от слежки, фишинга и мошенничества в сети.
Отзывы пользователей: 20453
4,7 из 5
Скачивая программу, вы принимаете условия Лицензионного соглашения
Читать далее

AdGuard для Android

AdGuard для Android — это идеальное решение для Android-устройств. В отличие от других блокировщиков, AdGuard не требует root-доступа и позволяет управлять трафиком любых приложений на вашем устройстве.
Отзывы пользователей: 20453
4,7 из 5
Скачивая программу, вы принимаете условия Лицензионного соглашения

AdGuard для iOS

Самый продвинутый блокировщик рекламы для Safari: он позволяет забыть о всплывающей рекламе, ускоряет загрузку страниц и защищает личные данные. А с помощью ручной блокировки можно настроить фильтрацию так, как это удобно вам.
Отзывы пользователей: 20453
4,7 из 5
Скачивая программу, вы принимаете условия Лицензионного соглашения

Браузерное расширение AdGuard

AdGuard — самое быстрое и легкое браузерное расширение для блокировки всех типов рекламы! Выбирайте AdGuard для быстрого и безопасного серфинга без рекламы.
Отзывы пользователей: 20453
4,7 из 5

AdGuard для Safari

Расширения, блокирующие рекламу в Safari, переживают не лучшие времена с тех пор, как компания Apple вынудила всех использовать новый SDK. Познакомьтесь с нашим легко настраиваемым и молниеносным приложением!
Отзывы пользователей: 20453
4,7 из 5
App Store
Скачать
Скачивая программу, вы принимаете условия Лицензионного соглашения

AdGuard Home

AdGuard Home — мощный сетевой инструмент против рекламы и трекинга. С усилением роли интернета вещей становится все более и более важным управлять всей вашей сетью. После настройки AdGuard Home будет охватывать ВСЕ ваши домашние устройства и для этого вам не понадобится программное обеспечение на стороне клиента.
Отзывы пользователей: 20453
4,7 из 5

AdGuard Content Blocker

AdGuard Content Blocker устраняет все объявления в мобильных браузерах, которые поддерживают технологию блокировки контента — к примеру, Samsung Internet и Яндекс.Браузер. Он обладает меньшим количеством функций, чем AdGuard для Android, но при этом бесплатен, прост в установке и по-прежнему обеспечивает высокое качество блокировки рекламы.
Отзывы пользователей: 20453
4,7 из 5
Скачивая программу, вы принимаете условия Лицензионного соглашения
Читать далее

Помощник AdGuard

Дополнительное браузерное расширение для десктопных приложений AdGuard. Даёт доступ к таким функциям в браузере, как блокировка отдельных элементов, занесение сайта в белый список или отправление отчёта.
Отзывы пользователей: 20453
4,7 из 5
Помощник для Chrome Это ваш текущий браузер?
Установить
Скачивая программу, вы принимаете условия Лицензионного соглашения
Помощник для Firefox Это ваш текущий браузер?
Установить
Скачивая программу, вы принимаете условия Лицензионного соглашения
Помощник для Edge Это ваш текущий браузер?
Установить
Скачивая программу, вы принимаете условия Лицензионного соглашения
Помощник для Opera Это ваш текущий браузер?
Установить
Скачивая программу, вы принимаете условия Лицензионного соглашения
Помощник для Yandex Это ваш текущий браузер?
Установить
Скачивая программу, вы принимаете условия Лицензионного соглашения
Помощник для Safari Это ваш текущий браузер?
Если вы не можете найти свой браузер в списке, попробуйте прежнюю версию Помощника, которую вы можете найти в настройках расширения AdGuard.

AdGuard Temp Mail β

Ваш временный почтовый ящик, чтобы на основную почту не приходил спам
Отзывы пользователей: 20453
4,7 из 5

AdGuard для Android TV

AdGuard для Android TV — единственное приложение, которое блокирует рекламу, защищает ваши данные и действует как фаервол для Smart TV. Получайте предупреждения о веб-угрозах, используйте безопасный DNS, а ваш трафик будет зашифрован. Смотрите любимые сериалы безопасно и без рекламы!
Отзывы пользователей: 20453
4,7 из 5
Загрузка AdGuard началась Стрелка указывает на файл: нажмите на него, и установка начнётся Выберите «Открыть», нажмите «OK» и дождитесь загрузки файла. В открывшемся окне перетащите значок AdGuard в папку «Приложения». Спасибо за выбор AdGuard! Выберите «Открыть», нажмите «OK» и дождитесь загрузки файла. В открывшемся окне нажмите «Установить». Спасибо за выбор AdGuard!
AdGuard есть и в мобильном варианте