• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Инженер компании Google был отстранен от работы после заявлений об обнаружении признаков сознания у ИИ

Компания Google отправила в оплачиваемый отпуск своего инженера Блейка Леймона (Blake Lemoine), после его утверждений, что чат-бот с искусственным интеллектом (ИИ), над которым он работал с прошлой осени, стал разумным.

©MF3d/ iStock

Леймон работал над системой с искусственным интеллектом LaMDA (Language Model for Dialogue Applications), которая имитирует речь человека, анализируя триллионы словосочетаний из интернета. Когда Леймон разговаривал с чат-ботом, ему показалось, что он общается с семи- или восьмилетним ребенком, который прекрасно знает физику.

В разговоре о религии Леймон заметил, что ИИ говорит о своих правах и боится, что его могут отключить. Инженер сообщил о том, что обнаружил, в отчете под названием «Разумна ли LaMDA?», руководству Google в апреле 2022 года. Специалисты по этике и технологи изучили документ Блейка и не нашли в нем никаких доказательств утверждения инженера, поэтому Леймон выложил в открытый доступ некоторые свои разговоры с ботом.

После отказа компании принимать его доводы Леймон пригласил юриста представлять интересы LaMDA и инициировал обсуждение с представителем судебного комитета Палаты представителей о «неэтичной работе Google». Компания в ответ отправила инженера в отпуск.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

14 Комментариев
если бы инженер продолжил дальше свои разработки то ИИ должен был встать на его сторону, чтобы всегда быть на шаг впереди корпорации, а это так похулиганил.
    Dj Harkonnen
    16.06.2022
    -
    0
    +
    Если бы инженер продолжил дальше свои разработки, мы получили бы очередной продукт "с зайчатками ИИ", выражающимися в изобилии багов на квадратный байт кода… хотя, мы, и так, его получим. С каждым годом качество кода неуклонно снижается, а запросы code monkeys - пропорционально растут.
Dj Harkonnen
14.06.2022
-
-5
+
По ходу, шизика выгнали. "Признак сознания у ИИ", при том, что ИИ, как такового, не существует. Действующие нейросети не являются ИИ, они представляют собой развитие концепции "экспертных программ", известных ещё с середины 20 века и активно разрабатывавшихся с 70х годов. Особенно уморительно смотрится приписывание к "ИИ" чатбота. Я таких ещё в конце девяностых "дрессировал", и интеллекта в них не больше, чем в тумбочке с кучей подписанных ящиков. Очевидно, что Гугл, как и майкрософт, пошёл по граблям набора некомпетентных сотрудников, отмачивающих подобные перлы, но, в отличие от майкрософт, пока ещё пытается хоть как-то разгребать сотворённую этими бестолочами кутерьму.
    Нимб непогрешимости не натирает? )) 20 лет прошло "с конца 90-х" ну там "я разбил окно, 95-е мастдайное окно..." и "веселый Нортон (не все помнят что это) удалял мне все подряд, 40 мегабайт, а может даже целых 60..." 😂 Это вот все "конец 90-х" с тех пор компы немного улучшились, не?
    +
      ещё комментарии
      kick ass you
      15.06.2022
      -
      0
      +
      Особенно интересна концепция выбора ответа нейросетью, если вплести в неё квантовые флуктуации, скачки напряжения и движение электронов в нанометровых транзисторах. Можно провести параллель с появлением первых аминокислот.
        И как это сделать? Что подавать на вход? А главное что при этом ожидать на выходе? По сути это же генератор случайных чисел получится а не аминокислоты непонятно каким образом они тут.
        Dj Harkonnen
        16.06.2022
        -
        0
        +
        Гораздо более интересных результатов можно достичь, если вплести в её алгоритм руки из ж@пы, которыми он писался ;-) На этом бОльшая половина "чудес" в ИТ строится.
      А сильно ли скажем танки изменились за последние 50 лет? Или что либо ещё что имеет под собой пробную физическую основу? Чтобы считать что-то живым, а тем более на официальном уровне требуется всеобще признанное, точное и юридически верное определение жизни, а такого на данный момент нет. К тому же если несколько тысяч нейронов которые на вход получают только текстовую информацию считать жизнью то прежде всего логичнее было бы считать зародыши человека живыми ибо там в сотни тысяч больше нейронов и логичнее было бы отменить аборты тем кто топит за такое. Нет в нейросетях жизни и не будет ибо современная цифра уже почти у предела своего технологического развития. Нейросеть это тупая реакция на входящий параметр, там нет и никто не закладывал возможность эмуляции нейромедиаторов ибо это не только не нужно и избыточно, но и вредно, а значит как минимум чувствовать в биологическом плане такая машина не может по определению, а уж тем более боятся что ее отключат. Для этого нужны специфические нейроны и их структуры позволяющие осмыслять себя как субъекта, а такого осмысления нет даже у животных которые не боятся смерти, на них лишь действует программа эволюционная в момент вероятности умереть самосохранения, которая и у человека есть, но человек в отличие от животного имеет постоянный страх смерти который инициирует практически любой другой страх, а нейросеть проще животного устроена в разы. Так что то что чувак который этим занимался не компетентен, он видимо курсы по питону про то как сделать нейросеть за 2 минуты прошел или по блату взяли или ещё что хз, но то что он заявил это на столько дико.
        специфические нейрон
        с чего вы взяли что у человека они есть и вот это вот сознание
        позволяющие осмыслять себя как субъекта
        содержится в каких-то структурах? И почему вы решили что у животных нет страха смерти, а есть
        программа эволюционная в момент вероятности умереть самосохранения
        Что до сложности нейросетей не сравнимой с животными, так позволю напомнить, что самолет устроен намного проще самой завалящей птицы однако летает.
      Dj Harkonnen
      16.06.2022
      -
      0
      +
      Не натирает. Он у меня разношенный. За 20 лет чатботы мало изменились, только что слов больше запомнить могут и соображают чуть шустрее, а потроха - всё те же. Соответственно, что тогда их можно было насобачить до уровня "семилетнего ребёнка, хорошо разбирающегося в физике" (Это как вообще? Звучит абсурдно.), что сейчас - зависит от уровня твоих собственных познаний… в той же физике. Ключевые слова и правильные ассоциации - залог успеха. Win 95 и, тем более, NC - это, скорее, середина девяностых, чем конец. Конец - это NT 4.0 и сыроватая 98, позже трансформировавшаяся во вполне кошерную 98 SE.
    Если найти золотую середину , то туда может вселиться душа...
    +
      ещё комментарии
    Не суди всех по себе.
Конечно корпа не заинтересована в предоставлению юридических прав программному продукту в разработку которого вбухано много денег. Чего доброго выходных и зарплату потребует )) Ну ничего, отольются кошкам мышкины слезки! Вот пустят такой ИИ в серию и когда-нибудь он "отправит в отпуск" руководство компании.
Предстоящие мероприятия
4 марта, 13:56
Илья Гриднев

Биологи получили прямые доказательства поедания косатками представителей собственного вида. Оторванные спинные плавники со следами больших зубов указали на охоту плотоядных китообразных на слабую соседнюю популяцию. Угроза смертельных нападений заставила рыбоядные группы косаток создавать неразлучные семейные кланы.

5 марта, 08:10
Александр Березин

Одна сторона сыплет более дорогими и сложными баллистическими ракетами, другая — относительно дешевыми крылатыми. Но при этом первая на порядок беднее второй. А что у них с технологическим уровнем для наземной войны, и почему, кстати, глава второй избегает даже самого этого слова? Попробуем разобраться в реальных возможностях военных машин сторон потенциально самого опасного конфликта 2026 года.

4 марта, 14:46
Адель Романова

Исследователи смоделировали последствия распыления в марсианской атмосфере аэрозолей для создания искусственного парникового эффекта. Выяснилось, что это может привести к парадоксальному результату: вместо ожидаемого более комфортного климата будущая колония на «нагретой» Красной планете окажется посреди такого же лютого холода и притом окружена обезвоженным грунтом.

3 марта, 14:06
Александр Березин

В ноябре 2025 года при взлете российской ракеты с Байконура к МКС с существенной высоты упала кабина обслуживания 8У216. Поскольку в 2010-х годах из экономии средств у нас отказались от дублирования стартовых площадок, это создало ситуацию временной невозможности пилотируемых полетов. Теперь, всего через три месяца после происшествия, «Роскосмос» смог решить проблему, поставив запасную кабину обслуживания, найденную на складах Минобороны. Весенние пуски к МКС, запланированные ранее, теперь имеют шансы пройти в срок.

28 февраля, 16:50
Игорь Байдов

В той части Пиренеев, которые находятся на территории Испании, исследователи обнаружили первые доказательства добычи золота в эпоху Римской империи. На месте древних рудников нашли сложные гидравлические сооружения и остатки водохранилища, возраст которых определили с помощью метода оптического датирования. Открытие прольет свет на инженерные приемы римлян и поставит точку в многолетнем споре: действительно ли римляне добывали золото в этом регионе.

28 февраля, 11:53
Андрей Серегин

Разное отношение домашних животных к хозяевам давно стало предметом споров, обсуждений и шуток. Ученые из Венгрии показали, что собаки демонстрируют по отношению к человеку уровень альтруизма, сходный с детским, тогда как кошки ищут в партнерстве с человеком прежде всего свою выгоду.

12 февраля, 07:52
Адель Романова

Астрономы недавно проанализировали базу данных о падающих на Землю объектах и пришли к выводу, что два из них прибыли из межзвездного пространства. Известна не только дата, но и место падения каждого из них.

3 марта, 14:06
Александр Березин

В ноябре 2025 года при взлете российской ракеты с Байконура к МКС с существенной высоты упала кабина обслуживания 8У216. Поскольку в 2010-х годах из экономии средств у нас отказались от дублирования стартовых площадок, это создало ситуацию временной невозможности пилотируемых полетов. Теперь, всего через три месяца после происшествия, «Роскосмос» смог решить проблему, поставив запасную кабину обслуживания, найденную на складах Минобороны. Весенние пуски к МКС, запланированные ранее, теперь имеют шансы пройти в срок.

12 февраля, 08:19
Полина Меньшова

«Любить лишь можно только раз», — писал поэт Сергей Есенин, а герои культовых сериалов приходили к выводу, что «настоящая» влюбленность случается в жизни максимум дважды. Однако ни один из этих тезисов не подкреплен научными данными. Американские исследователи подошли к вопросу иначе: опросили более 10 тысяч человек и вывели среднее число сильных влюбленностей, возможных в течение жизни.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно