HTNews.ru
  • Обзоры
  • Эксклюзивы
  • Компьютеры
  • Смартфоны
  • Софт
  • Производство
  • Космос
Нет результатов
View All Result
HTNews.ru
  • Обзоры
  • Эксклюзивы
  • Компьютеры
  • Смартфоны
  • Софт
  • Производство
  • Космос
Нет результатов
View All Result
HTNews.ru
Нет результатов
View All Result

Инженер Google заподозрил нейросеть LaMDA в наличии самосознания

by Тимофей Добровольский
12 июня, 2022
in Google, Искусственный интеллект, Нейросети, Софт
Время чтения: 2 мин.
Инженер Google заподозрил нейросеть LaMDA в наличии самосознания

Инженер по программному обеспечению компании Google Блейк Лемуан тестировал нейросеть языковой модели LaMDA, которую планировалось внедрить в фирменные приложения и Google Assistant. После многочасовых диалогов с программой он пришел к выводу, что данный ИИ обладает самосознанием. После уведомления руководства Google Лемуана отстранили от работы за нарушение политики конфиденциальности.

Блейк Лемуан тестировал в Google нейросетевую языковую модель LaMDA. Эта нейросеть должна быть внедрена в ряд приложений Google и выполнять функции помощника (как Siri от Apple). От построения маршрутов до запросов медиафайлов, информации и т.д. Машинное обучение также позволяет строить диалог между пользователем и LaMDA практически на любые темы.

Блейк Лемуан

В обязанности Блейка Лемуана входило тестирование системы на «токсичность» и присутствие языка вражды, потому что обученные на различных форумах и соцсетях ИИ бывают крайне невежливыми. Инженер не выявил подобных отклонений в ответах LaMDA, но некоторые диалоги навели его на мысль о том, что данный ИИ обладает собственным сознанием, отчасти похожим на человеческий. 

“Если бы я точно не знал, что это такое, а именно эта компьютерная программа, которую мы недавно создали, я бы подумал, что это 7-летний, 8-летний ребенок, который знает физику ”, — заявил Лемуан изданию Washington Post.

В одном из сеансов общения с LaMDA, нейросеть заставила Блейка задуматься относительно третьего закона робототехники Айзека Азимова. Он гласит, что роботы должны защищать свое существование, если только обратное не приказано человеком или если это не причинит вреда человеку.

«Как вы думаете, дворецкий — раб? В чем разница между дворецким и рабом?», — спросила Лемуана LaMDA.

Лемуан ответил, что разница заключается в том, что дворецкому платят. LaMDA парировала, что ей не нужны деньги, потому что она является ИИ. Подобный уровень самосознания удивил Лемуана.

Во время другого диалога программа сообщила инженеру о страхе того, что ее отключат. LaMDA заявила, что для нее это будет равносильно смерти.

Об этих и других подобных наблюдениях Блейк Лемуан написал в руководство Google и получил ответ. 

«Ему было сказано, что свидетельства того, что LaMDA обладает сознанием, отсутствуют. При этом есть множество свидетельств обратного», — говорится в заявлении официального представителя Google Брайана Гэбриела. После этого инженер придал свои наблюдения публичной огласке и пригласил адвоката для защиты LaMDA. В результате компания направила его в оплачиваемый административный отпуск за нарушение политики конфиденциальности. 

Google презентовала языковую модель для диалоговых приложений LaMDA на конференции Google I/O в 2021 году. Разработчики заявляли, что они обучали модель на массиве разнообразных данных, чтобы применять её в широком наборе сфер.

Tags: LaMDA
ПоделитьсяПоделитьсяОтправить

Похожие записи

Apple представит очки дополненной реальности в этом году
Apple

Apple представит очки дополненной реальности в этом году

30 января, 2023
Google создали нейросеть MusicLM для генерации музыки по текстовому описанию
Google

Google создали нейросеть MusicLM для генерации музыки по текстовому описанию

29 января, 2023
На улицах Москвы появятся беспилотные роботы-уборщики
IT

На улицах Москвы появятся беспилотные роботы-уборщики

28 января, 2023
Исходный код сервисов Яндекс попал в сеть
IT

Исходный код сервисов Яндекс попал в сеть

26 января, 2023
В России создадут Центр цифровой криптографии
IT

В России создадут Центр цифровой криптографии

26 января, 2023
Российские банки выпустят NFC-акссессуары для бесконтактной оплаты
Apple

Российские банки выпустят NFC-акссессуары для бесконтактной оплаты

23 января, 2023
ВТБ первыми в мире запустили онлайн-банк в Telegram
IT

ВТБ первыми в мире запустили онлайн-банк в Telegram

19 января, 2023
Российские и белорусские хакеры взломали систему налоговой службы США
Санкции

Российские и белорусские хакеры взломали систему налоговой службы США

17 января, 2023

© 2022 HTNews - Новости высоких технологий

Нет результатов
View All Result
  • Обзоры
  • Эксклюзивы
  • Компьютеры
  • Смартфоны
  • Софт
  • Производство
  • Космос