• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Инженер компании Google был отстранен от работы после заявлений об обнаружении признаков сознания у ИИ

Компания Google отправила в оплачиваемый отпуск своего инженера Блейка Леймона (Blake Lemoine), после его утверждений, что чат-бот с искусственным интеллектом (ИИ), над которым он работал с прошлой осени, стал разумным.

©MF3d/ iStock

Леймон работал над системой с искусственным интеллектом LaMDA (Language Model for Dialogue Applications), которая имитирует речь человека, анализируя триллионы словосочетаний из интернета. Когда Леймон разговаривал с чат-ботом, ему показалось, что он общается с семи- или восьмилетним ребенком, который прекрасно знает физику.

В разговоре о религии Леймон заметил, что ИИ говорит о своих правах и боится, что его могут отключить. Инженер сообщил о том, что обнаружил, в отчете под названием «Разумна ли LaMDA?», руководству Google в апреле 2022 года. Специалисты по этике и технологи изучили документ Блейка и не нашли в нем никаких доказательств утверждения инженера, поэтому Леймон выложил в открытый доступ некоторые свои разговоры с ботом.

После отказа компании принимать его доводы Леймон пригласил юриста представлять интересы LaMDA и инициировал обсуждение с представителем судебного комитета Палаты представителей о «неэтичной работе Google». Компания в ответ отправила инженера в отпуск.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

14 Комментариев
если бы инженер продолжил дальше свои разработки то ИИ должен был встать на его сторону, чтобы всегда быть на шаг впереди корпорации, а это так похулиганил.
    Dj Harkonnen
    16.06.2022
    Если бы инженер продолжил дальше свои разработки, мы получили бы очередной продукт "с зайчатками ИИ", выражающимися в изобилии багов на квадратный байт кода… хотя, мы, и так, его получим. С каждым годом качество кода неуклонно снижается, а запросы code monkeys - пропорционально растут.
Dj Harkonnen
14.06.2022
По ходу, шизика выгнали. "Признак сознания у ИИ", при том, что ИИ, как такового, не существует. Действующие нейросети не являются ИИ, они представляют собой развитие концепции "экспертных программ", известных ещё с середины 20 века и активно разрабатывавшихся с 70х годов. Особенно уморительно смотрится приписывание к "ИИ" чатбота. Я таких ещё в конце девяностых "дрессировал", и интеллекта в них не больше, чем в тумбочке с кучей подписанных ящиков. Очевидно, что Гугл, как и майкрософт, пошёл по граблям набора некомпетентных сотрудников, отмачивающих подобные перлы, но, в отличие от майкрософт, пока ещё пытается хоть как-то разгребать сотворённую этими бестолочами кутерьму.
    Нимб непогрешимости не натирает? )) 20 лет прошло "с конца 90-х" ну там "я разбил окно, 95-е мастдайное окно..." и "веселый Нортон (не все помнят что это) удалял мне все подряд, 40 мегабайт, а может даже целых 60..." 😂 Это вот все "конец 90-х" с тех пор компы немного улучшились, не?
    +
      Еще 6 ответов
      kick ass you
      15.06.2022
      Особенно интересна концепция выбора ответа нейросетью, если вплести в неё квантовые флуктуации, скачки напряжения и движение электронов в нанометровых транзисторах. Можно провести параллель с появлением первых аминокислот.
        И как это сделать? Что подавать на вход? А главное что при этом ожидать на выходе? По сути это же генератор случайных чисел получится а не аминокислоты непонятно каким образом они тут.
        Dj Harkonnen
        16.06.2022
        Гораздо более интересных результатов можно достичь, если вплести в её алгоритм руки из ж@пы, которыми он писался ;-) На этом бОльшая половина "чудес" в ИТ строится.
      А сильно ли скажем танки изменились за последние 50 лет? Или что либо ещё что имеет под собой пробную физическую основу? Чтобы считать что-то живым, а тем более на официальном уровне требуется всеобще признанное, точное и юридически верное определение жизни, а такого на данный момент нет. К тому же если несколько тысяч нейронов которые на вход получают только текстовую информацию считать жизнью то прежде всего логичнее было бы считать зародыши человека живыми ибо там в сотни тысяч больше нейронов и логичнее было бы отменить аборты тем кто топит за такое. Нет в нейросетях жизни и не будет ибо современная цифра уже почти у предела своего технологического развития. Нейросеть это тупая реакция на входящий параметр, там нет и никто не закладывал возможность эмуляции нейромедиаторов ибо это не только не нужно и избыточно, но и вредно, а значит как минимум чувствовать в биологическом плане такая машина не может по определению, а уж тем более боятся что ее отключат. Для этого нужны специфические нейроны и их структуры позволяющие осмыслять себя как субъекта, а такого осмысления нет даже у животных которые не боятся смерти, на них лишь действует программа эволюционная в момент вероятности умереть самосохранения, которая и у человека есть, но человек в отличие от животного имеет постоянный страх смерти который инициирует практически любой другой страх, а нейросеть проще животного устроена в разы. Так что то что чувак который этим занимался не компетентен, он видимо курсы по питону про то как сделать нейросеть за 2 минуты прошел или по блату взяли или ещё что хз, но то что он заявил это на столько дико.
        специфические нейрон
        с чего вы взяли что у человека они есть и вот это вот сознание
        позволяющие осмыслять себя как субъекта
        содержится в каких-то структурах? И почему вы решили что у животных нет страха смерти, а есть
        программа эволюционная в момент вероятности умереть самосохранения
        Что до сложности нейросетей не сравнимой с животными, так позволю напомнить, что самолет устроен намного проще самой завалящей птицы однако летает.
      Dj Harkonnen
      16.06.2022
      Не натирает. Он у меня разношенный. За 20 лет чатботы мало изменились, только что слов больше запомнить могут и соображают чуть шустрее, а потроха - всё те же. Соответственно, что тогда их можно было насобачить до уровня "семилетнего ребёнка, хорошо разбирающегося в физике" (Это как вообще? Звучит абсурдно.), что сейчас - зависит от уровня твоих собственных познаний… в той же физике. Ключевые слова и правильные ассоциации - залог успеха. Win 95 и, тем более, NC - это, скорее, середина девяностых, чем конец. Конец - это NT 4.0 и сыроватая 98, позже трансформировавшаяся во вполне кошерную 98 SE.
    Если найти золотую середину , то туда может вселиться душа...
    +
      Еще 1 ответ
    Не суди всех по себе.
Конечно корпа не заинтересована в предоставлению юридических прав программному продукту в разработку которого вбухано много денег. Чего доброго выходных и зарплату потребует )) Ну ничего, отольются кошкам мышкины слезки! Вот пустят такой ИИ в серию и когда-нибудь он "отправит в отпуск" руководство компании.
Предстоящие мероприятия
9 августа, 19:34
Марк Чернов

Американская компания Firebird официально запустила в городе Раздан крупный центр обработки данных и фабрику искусственного интеллекта. На сегодняшний день это самый масштабный технологический хаб подобного уровня в СНГ, а после завершения всех этапов строительства он войдет в пятерку самых мощных вычислительных кластеров в мире.

7 августа, 08:30
Александр Березин

Авторы новой работы утверждают, что общий предок всего живого (LUCA) по сути не был свободноживущим организмом. А его потомки, чтобы стать такими, пошли двумя принципиально разными путями, образовав две принципиально разные группы существ.

9 августа, 10:53
Редакция Naked Science

Американское Министерство войны продолжает публиковать документы и видеозаписи о наблюдении неопознанных летающих объектов. Как и ранее, происхождение объектов из наблюдений неясно, но достаточно очевидно, что как минимум часть из них не относятся к известным сегодняшней науке природным феноменам.

9 августа, 19:34
Марк Чернов

Американская компания Firebird официально запустила в городе Раздан крупный центр обработки данных и фабрику искусственного интеллекта. На сегодняшний день это самый масштабный технологический хаб подобного уровня в СНГ, а после завершения всех этапов строительства он войдет в пятерку самых мощных вычислительных кластеров в мире.

9 августа, 10:53
Редакция Naked Science

Американское Министерство войны продолжает публиковать документы и видеозаписи о наблюдении неопознанных летающих объектов. Как и ранее, происхождение объектов из наблюдений неясно, но достаточно очевидно, что как минимум часть из них не относятся к известным сегодняшней науке природным феноменам.

8 августа, 09:23
Максим Абдулаев

Американские палеонтологи собрали первую научно достоверную копию скелета Deinosuchus schwimmeri — суперхищника длиной 9,5 метра, обитавшего в меловом периоде. В процессе реконструкции ученые провели ревизию уже найденных окаменелостей, упразднили один сомнительный вид и описали новый. В итоге исследователи классифицировали животное как предка аллигаторов, а еще нашли у него интересные анатомические особенности пока неясного назначения.

31 июля, 14:12
Андрей Серегин

Долгое время считалось, что до прихода европейцев тропические леса Амазонии были заселены сравнительно плохо. Однако выяснилось, что плотная растительность скрывает большинство следов древних обществ. С помощью воздушного лазерного сканирования ученые обнаружили сотни неизвестных земляных сооружений и предположили, что около двух тысяч лет назад население юго-западной части Амазонии могло достигать трех миллионов человек.

19 июля, 20:09
Александр Березин

Очереди на заправках стали привычным явлением в России, а на фоне информационного вакуума от властей о конкретных показателях производства бензина в июне население вынуждено ориентироваться на слухи. Все это выглядит довольно странно, но есть нюанс: скорее всего, кризис уже начинает выдыхаться. Как именно мы это выяснили?

4 августа, 12:03
Александр Березин

Остров Пекан недалеко от Мексиканского залива в Луизиане вскоре перейдет в собственность компании Илона Маска. Здесь будет новый космодром для Starship, почти в 20 раз больше, чем в Бока-Чике, где уже стоят две стартовых площадки. Уникальное местоположение позволит компании попытаться реализовать амбициозную цель о запуске миллиона низкоорбитальных спутников на орбиты, где сегодня находится подавляющее меньшинство спутников Земли.

[miniorange_social_login]