Меню
RU

Чрезмерная зависимость от ИИ растёт, и это проблема

ИИ играет всё большую роль в жизни многих людей — от написания школьных сочинений до замены агентов службы поддержки. Идея о том, что ИИ упростит жизнь, взяв на себя рутинные задачи и освободив нас для более творческих занятий и вещей, на которые у нас нередко не хватает времени, будоражит. Но на деле всё выглядит не совсем так, по крайней мере, пока что.

Мы всё чаще видим, что люди склонны излишне полагаться на ИИ, вплоть до того, что перекладывают на него всю ответственность. И хотя ИИ неразумен и, скорее всего, не восстанет против нас в ближайшее время (мы вообще не думаем, что это произойдёт), перспектива такого чрезмерного доверия вызывает тревогу. Но в то же время мы уже видели подобное в отношении новых технологий и раньше.

Помешательство на сгенерированных ИИ рецептах

Помните, как мы относились к генеративному ИИ скорее как к игрушке, пытаясь придумать оригинальные и забавные запросы и похвастаться своими первыми навыками создания изображений? Первые дни после появления общедоступного генеративного ИИ были весёлыми и забавными, но с тех пор всё стало гораздо серьёзнее. Сегодня как отдельные люди, так и предприятия различных отраслей всё чаще полагаются на то, что ИИ будет делать за них их работу. При этом результаты часто варьируются от уморительных до откровенно тревожащих.

Одна из компаний, охваченных повальным увлечением искусственным интеллектом, — Instacart. Американский гигант доставки продуктов ещё в мае объявил о сотрудничестве с OpenAI для создания рецептов на основе ИИ. И плоды и овощи этого сотрудничества оказались в лучшем случае некрасивыми, а в худшем — вызывающими рвотный рефлекс. Тред Reddit, посвящёный Instacart, был наводнён изображениями странно выглядящих блюд. Некоторые из них явно нереальны (например, сосиска, жутко похожая на помидор в рецепте «хот-дог стир-фрай») и ничуть не аппетитны.

c4r8ninstacart_madness

Более того, технологическое издание 404 обнаружило, что некоторые рецепты, сгенерированные искусственным интеллектом Instacart, не имеют никакого смысла. Например, в некоторых фигурировали несуществующие ингредиенты, такие как соус «Монито», а в других рецептах ингредиенты вообще отсутствовали или были указаны в подозрительных количествах.

2xn3y404media

Пицца или пирог?

Компанию Uber Eats поймали с поличным на использовании искусственного интеллекта таким же безруким способом, что дало столь же сомнительные результаты.

skyb7uber_eats

Пытаясь изобразить «средний цельный пирог» (америк. medium whole pie), который в данном конкретном контексте следовало понимать как «пиццу», ИИ воспринял всё буквально и выдал изображение десертного пирога. И хотя в данном случае можно посочувствовать ИИ (в конце концов, везде, кроме отдельных частей США, пиццу принято называть пиццей, а не пирогом), такая путаница могла бы стать причиной головной боли для пиццерии, если бы ошибку не заметил любознательный наблюдатель, позвонивший туда.

Можно было бы утверждать, что эти ИИ-модели, сбившиеся с пути, просто нуждаются в дополнительной настройке в виде контролируемого обучения, и если бы они были должным образом настроены, компании избежали бы неловкости. Но всё не так просто. Иногда слишком тонкая настройка приводит к обратному результату. Как недостаточная настройка может привести к ошибкам, подобным этой, так и чрезмерная настройка может привести к непредвиденным последствиям.

Историческая точность против разнообразия

Возьмём недавний случай с Gemini AI компании Google и его попытку внести разнообразие… в исторические изображения. Когда чат-бот Google на базе ИИ попросили изобразить немецкого солдата 1943 года, тот выдал изображение, на котором среди прочих были изображены чернокожий мужчина и женщина-азиатка.

umvpdgerman_soldier

Запрос на создание изображений ранних французских романистов также привел к тому, что Gemini выдал картинку с изображением чернокожей женщины и мужчины с азиатской внешностью.

am9nonovelists

Эти нестандартные результаты стали побочным продуктом стремления Google придать своей модели ИИ больше разнообразия. После последовавших за этим споров компания Google заблокировала способность ИИ Gemini генерировать изображения людей. «Мы сделаем лучше», — пообещали они. «Так что же пошло не так? Если коротко, то две вещи. Во-первых, наша настройка, направленная на то, чтобы Gemini показывал диапазон изображений, не учитывала случаи, в которых этот диапазон явно не должен быть показан. А во-вторых, со временем модель стала гораздо более осторожной, чем мы предполагали, и отказывалась отвечать на некоторые вопросы полностью, ошибочно интерпретируя некоторые очень банальные вопросы как деликатные»,говорится в заявлении Google.

На самом деле Amazon уже сталкивался с подобной проблемой, когда его наводнили объявления о продаже товаров с названиями, больше похожими на сообщения об ошибках. И если мы привыкли видеть бренды с причудливыми названиями, которые звучат как случайный набор слов, то новая волна названий, обрушившаяся на Amazon, включала в себя такие необычно звучащие пункты, как «Приношу свои извинения, но я не могу выполнить этот запрос, он нарушает политику использования OpenAI».

j2i04amazon

Грубые чат-боты и фейковые предсказания

К этому и без того внушительному списку примеров глупостей, созданных ИИ, можно добавить чат-бота на базе ИИ, который компания по доставке посылок DPD использовала для поддержки клиентов вместо настоящих агентов. Как сообщается, чат-бот не только был бесполезен в ответах на вопросы, но и критиковал свою же компанию и недвусмысленно говорил клиенту, чтобы тот прекратил беспокоить его. DPD в итоге закрыла чат-бот, увидев, что он окончательно «слетел с катушек».

7818cparcel_delivery

И несмотря на все разговоры о том, что чат-боты на базе ИИ могут заменить традиционные поисковые системы, и Copilot от Microsoft, и Gemini от Google отвечали на вопросы о результате недавнего Супербоула ещё до его проведения. Они не только (неверно) назвали окончательный счёт (Copilot даже привёл неверные ссылки на источники), но и предоставили подробную статистику игроков, причём выдуманную.

Чрезмерное увлечение ИИ — это временно?

Можно продолжать и дальше приводить примеры того, как ИИ не справился с задачей, а люди вовремя не пришли на помощь. В конце концов, каждый инструмент, управляемый искусственным интеллектом, будь то чат-бот или просто генератор изображений, сопровождается предупреждением о том, что он всё равно нуждается в человеческом контроле и перепроверке. Но раз за разом люди пренебрегают такими советами. И ИИ не первый и, вероятно, не последний пример такой политики невмешательства.

Возьмите шлемы виртуальной реальности. Хотя споры о том, сможет ли VR заменить реальность, например, реальные путешествия, обучение или развлечения, продолжаются до сих пор, они уже несколько подутихли. Сейчас шлемы виртуальной реальности используются в основном для игр, но и там они не являются полноценной заменой традиционным платформам, в основном из-за вопросов безопасности. Несмотря на предупреждения убрать всю мебель, которая может помешать вашим движениям, и призывы делать перерывы, люди по-прежнему получают серьёзные травмы во время игр в виртуальной реальности, натыкаясь на предметы в пылу азарта либо получая множественные травмы, которые они наносят себе сами, повторяя одни и те же движения несколько раз и даже не осознавая этого.

Ещё один яркий пример веры в объективно ещё сырую технологию — так называемые самоуправляемые автомобили. В 2015 году Илон Маск, генеральный директор компании Tesla и пионер индустрии автономных автомобилей в целом, предположил, что мы сможем получить полностью автономный автомобиль уже через 2 года. Примерно в то же время Google и Toyota надеялись вывести автомобиль без водителя на рынок к 2020 году, а BMW ставила цель на 2021 год. С тех пор Маск признал, что заставить автомобиль управлять собой без контроля со стороны человека сложнее, чем он думал, и шумиха вокруг полностью автономных автомобилей улеглась. Сейчас все существующие «автономные» автомобили на самом деле не являются полностью автономными. Все автомобили с функциями ассистента вождения, представленные на рынке, соответствуют только второму уровню автономности автомобиля из шести.

vc2fdlevels

Первая система третьего уровня была одобрена к производству только в прошлом году — это очень далеко от мечты о повсеместном применении машин без водителя к началу 2020-х годов. Некоторые даже считают, что уже пора выбросить белый флаг и признать, что «беспилотных автомобилей не будет», а лучше сосредоточиться на развитии общественного транспорта.

И всё же, несмотря на все предупреждения и классификации, водители полагают, что могут слепо положиться на свои автомобили в управлении, а сами при этом… играют в ладушки, карты или даже читают книги. Сообщается, что в некоторых авариях с участием частично автономных автомобилей люди также смотрели телевизор и дремали за рулем.

Заключение

Увлечение генеративным ИИ — как и манящая виртуальная реальность, как и мечты об автономных автомобилях — отражает наше стремление к технологическим утопиям. Однако, как показывает история, путь от революционной инновации до надёжного повседневного использования часто оказывается длиннее и сложнее, чем предполагалось. Передовые технологии, какими бы передовыми они ни были, обычно требуют периода созревания, который может длиться годы, а то и десятилетия. Это позволяет усовершенствовать технологию, разработать протоколы безопасности и привести её в соответствие с общественными потребностями и этическими нормами.

Тернистый пусть искусственного интеллекта напоминает о том, что путь к интеграции новых технологий в повседневную жизнь — это марафон, а не спринт. Смогут ли создатели этих технологий в полной мере выполнить свои обещания, пока неизвестно, но одно можно сказать точно: баланс между контролем со стороны человека и технологическим прогрессом будет и дальше определять наше будущее.

Понравился пост?
25 718 25718 отзывов
Отлично!

AdGuard для Windows

AdGuard для Windows — это не просто «ещё один блокировщик». Это многоцелевой инструмент, который блокирует рекламу и доступ к опасным сайтам, ускоряет загрузку страниц и защищает детей от взрослого контента.
Скачивая программу, вы принимаете условия Лицензионного соглашения
Узнать больше
25 718 25718 отзывов
Отлично!

AdGuard для Mac

В отличие от других блокировщиков, AdGuard разработан с учётом специфики операционной системы macOS. Он не только блокирует рекламу в Safari и других браузерах, но и защищает вас от слежки, фишинга и мошенничества в сети.
Скачивая программу, вы принимаете условия Лицензионного соглашения
Узнать больше
25 718 25718 отзывов
Отлично!

AdGuard для Android

AdGuard для Android — это идеальное решение для Android-устройств. В отличие от других блокировщиков, AdGuard не требует root-доступа и позволяет управлять трафиком любых приложений на вашем устройстве.
Скачивая программу, вы принимаете условия Лицензионного соглашения
Узнать больше
25 718 25718 отзывов
Отлично!

AdGuard для iOS

Лучший блокировщик рекламы для iPhone и iPad. AdGuard устраняет рекламу в Safari, защищает ваши данные и ускоряет загрузку страниц. AdGuard для iOS использует новейшую технологию блокировки, которая обеспечивает непревзойденное качество фильтрации и позволяет применять множество различных фильтров одновременно
Скачивая программу, вы принимаете условия Лицензионного соглашения
Узнать больше
25 718 25718 отзывов
Отлично!

AdGuard Content Blocker

AdGuard Content Blocker устраняет все объявления в мобильных браузерах, которые поддерживают технологию блокировки контента — к примеру, Samsung Internet и Яндекс.Браузер. Он обладает меньшим количеством функций, чем AdGuard для Android, но при этом бесплатен, прост в установке и по-прежнему обеспечивает высокое качество блокировки рекламы.
Скачивая программу, вы принимаете условия Лицензионного соглашения
Узнать больше
25 718 25718 отзывов
Отлично!

Браузерное расширение AdGuard

AdGuard — самое быстрое и легкое браузерное расширение для блокировки всех типов рекламы! Выбирайте AdGuard для быстрого и безопасного серфинга без рекламы.
25 718 25718 отзывов
Отлично!

Помощник AdGuard

Дополнительное браузерное расширение для десктопных приложений AdGuard. Даёт доступ к таким функциям в браузере, как блокировка отдельных элементов, занесение сайта в белый список или отправление отчёта.
25 718 25718 отзывов
Отлично!

AdGuard DNS

AdGuard DNS – это альтернативный способ заблокировать рекламу, защитить личные данные и оградить детей от взрослых материалов. Он прост в настройке и использовании и обеспечивает необходимый минимум защиты от рекламы, трекинга и фишинга, независимо от платформы.
25 718 25718 отзывов
Отлично!

AdGuard Home

AdGuard Home — мощный сетевой инструмент против рекламы и трекинга. С усилением роли интернета вещей становится все более и более важным управлять всей вашей сетью. После настройки AdGuard Home будет охватывать ВСЕ ваши домашние устройства и для этого вам не понадобится программное обеспечение на стороне клиента.
25 718 25718 отзывов
Отлично!

AdGuard Pro для iOS

AdGuard Pro предлагает гораздо больше чем просто блокировку рекламы в Safari, которая есть в обычной версии. С помощью специальных настроек DNS вы сможете блокировать больше рекламы, защитить ваши личные данные и оградить детей от взрослого контента.
Скачивая программу, вы принимаете условия Лицензионного соглашения
Узнать больше
25 718 25718 отзывов
Отлично!

AdGuard для Safari

Расширения, блокирующие рекламу в Safari, переживают не лучшие времена с тех пор, как компания Apple вынудила всех использовать новый SDK. Познакомьтесь с нашим легко настраиваемым и молниеносным приложением!
25 718 25718 отзывов
Отлично!

AdGuard Temp Mail

Ваш временный почтовый ящик, чтобы на основную почту не приходил спам
25 718 25718 отзывов
Отлично!

AdGuard для Android TV

AdGuard для Android TV — единственное приложение, которое блокирует рекламу, защищает ваши данные и действует как фаервол для Smart TV. Получайте предупреждения о веб-угрозах, используйте безопасный DNS, а ваш трафик будет зашифрован. Смотрите любимые сериалы безопасно и без рекламы!
Загрузка AdGuard началась Стрелка указывает на файл: нажмите на него, и установка начнётся Выберите «Открыть», нажмите «OK» и дождитесь загрузки файла. В открывшемся окне перетащите значок AdGuard в папку «Приложения». Спасибо за выбор AdGuard! Выберите «Открыть», нажмите «OK» и дождитесь загрузки файла. В открывшемся окне нажмите «Установить». Спасибо за выбор AdGuard!
AdGuard есть и в мобильном варианте