• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Инженер компании Google был отстранен от работы после заявлений об обнаружении признаков сознания у ИИ

Компания Google отправила в оплачиваемый отпуск своего инженера Блейка Леймона (Blake Lemoine), после его утверждений, что чат-бот с искусственным интеллектом (ИИ), над которым он работал с прошлой осени, стал разумным.

©MF3d/ iStock

Леймон работал над системой с искусственным интеллектом LaMDA (Language Model for Dialogue Applications), которая имитирует речь человека, анализируя триллионы словосочетаний из интернета. Когда Леймон разговаривал с чат-ботом, ему показалось, что он общается с семи- или восьмилетним ребенком, который прекрасно знает физику.

В разговоре о религии Леймон заметил, что ИИ говорит о своих правах и боится, что его могут отключить. Инженер сообщил о том, что обнаружил, в отчете под названием «Разумна ли LaMDA?», руководству Google в апреле 2022 года. Специалисты по этике и технологи изучили документ Блейка и не нашли в нем никаких доказательств утверждения инженера, поэтому Леймон выложил в открытый доступ некоторые свои разговоры с ботом.

После отказа компании принимать его доводы Леймон пригласил юриста представлять интересы LaMDA и инициировал обсуждение с представителем судебного комитета Палаты представителей о «неэтичной работе Google». Компания в ответ отправила инженера в отпуск.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

14 Комментариев

если бы инженер продолжил дальше свои разработки то ИИ должен был встать на его сторону, чтобы всегда быть на шаг впереди корпорации, а это так похулиганил.
    Dj
    Dj
    16.06.2022
    -
    0
    +
    Если бы инженер продолжил дальше свои разработки, мы получили бы очередной продукт "с зайчатками ИИ", выражающимися в изобилии багов на квадратный байт кода… хотя, мы, и так, его получим. С каждым годом качество кода неуклонно снижается, а запросы code monkeys - пропорционально растут.
Dj Harkonnen
14.06.2022
-
-5
+
По ходу, шизика выгнали. "Признак сознания у ИИ", при том, что ИИ, как такового, не существует. Действующие нейросети не являются ИИ, они представляют собой развитие концепции "экспертных программ", известных ещё с середины 20 века и активно разрабатывавшихся с 70х годов. Особенно уморительно смотрится приписывание к "ИИ" чатбота. Я таких ещё в конце девяностых "дрессировал", и интеллекта в них не больше, чем в тумбочке с кучей подписанных ящиков. Очевидно, что Гугл, как и майкрософт, пошёл по граблям набора некомпетентных сотрудников, отмачивающих подобные перлы, но, в отличие от майкрософт, пока ещё пытается хоть как-то разгребать сотворённую этими бестолочами кутерьму.
    Иван
    14.06.2022
    -
    2
    +
    Нимб непогрешимости не натирает? )) 20 лет прошло "с конца 90-х" ну там "я разбил окно, 95-е мастдайное окно..." и "веселый Нортон (не все помнят что это) удалял мне все подряд, 40 мегабайт, а может даже целых 60..." 😂 Это вот все "конец 90-х" с тех пор компы немного улучшились, не?
    +
      ещё комментарии
      kick ass
      15.06.2022
      -
      0
      +
      Особенно интересна концепция выбора ответа нейросетью, если вплести в неё квантовые флуктуации, скачки напряжения и движение электронов в нанометровых транзисторах. Можно провести параллель с появлением первых аминокислот.
        Любимый
        15.06.2022
        -
        1
        +
        И как это сделать? Что подавать на вход? А главное что при этом ожидать на выходе? По сути это же генератор случайных чисел получится а не аминокислоты непонятно каким образом они тут.
        Dj
        Dj
        16.06.2022
        -
        0
        +
        Гораздо более интересных результатов можно достичь, если вплести в её алгоритм руки из ж@пы, которыми он писался ;-) На этом бОльшая половина "чудес" в ИТ строится.
      Любимый
      15.06.2022
      -
      2
      +
      А сильно ли скажем танки изменились за последние 50 лет? Или что либо ещё что имеет под собой пробную физическую основу? Чтобы считать что-то живым, а тем более на официальном уровне требуется всеобще признанное, точное и юридически верное определение жизни, а такого на данный момент нет. К тому же если несколько тысяч нейронов которые на вход получают только текстовую информацию считать жизнью то прежде всего логичнее было бы считать зародыши человека живыми ибо там в сотни тысяч больше нейронов и логичнее было бы отменить аборты тем кто топит за такое. Нет в нейросетях жизни и не будет ибо современная цифра уже почти у предела своего технологического развития. Нейросеть это тупая реакция на входящий параметр, там нет и никто не закладывал возможность эмуляции нейромедиаторов ибо это не только не нужно и избыточно, но и вредно, а значит как минимум чувствовать в биологическом плане такая машина не может по определению, а уж тем более боятся что ее отключат. Для этого нужны специфические нейроны и их структуры позволяющие осмыслять себя как субъекта, а такого осмысления нет даже у животных которые не боятся смерти, на них лишь действует программа эволюционная в момент вероятности умереть самосохранения, которая и у человека есть, но человек в отличие от животного имеет постоянный страх смерти который инициирует практически любой другой страх, а нейросеть проще животного устроена в разы. Так что то что чувак который этим занимался не компетентен, он видимо курсы по питону про то как сделать нейросеть за 2 минуты прошел или по блату взяли или ещё что хз, но то что он заявил это на столько дико.
        Иван
        15.06.2022
        -
        3
        +
        специфические нейрон
        с чего вы взяли что у человека они есть и вот это вот сознание
        позволяющие осмыслять себя как субъекта
        содержится в каких-то структурах? И почему вы решили что у животных нет страха смерти, а есть
        программа эволюционная в момент вероятности умереть самосохранения
        Что до сложности нейросетей не сравнимой с животными, так позволю напомнить, что самолет устроен намного проще самой завалящей птицы однако летает.
      Dj
      Dj
      16.06.2022
      -
      0
      +
      Не натирает. Он у меня разношенный. За 20 лет чатботы мало изменились, только что слов больше запомнить могут и соображают чуть шустрее, а потроха - всё те же. Соответственно, что тогда их можно было насобачить до уровня "семилетнего ребёнка, хорошо разбирающегося в физике" (Это как вообще? Звучит абсурдно.), что сейчас - зависит от уровня твоих собственных познаний… в той же физике. Ключевые слова и правильные ассоциации - залог успеха. Win 95 и, тем более, NC - это, скорее, середина девяностых, чем конец. Конец - это NT 4.0 и сыроватая 98, позже трансформировавшаяся во вполне кошерную 98 SE.
    Ильнур
    15.06.2022
    -
    0
    +
    Если найти золотую середину , то туда может вселиться душа...
    +
      ещё комментарии
    Валери
    17.06.2022
    -
    0
    +
    Не суди всех по себе.
-
0
+
Конечно корпа не заинтересована в предоставлению юридических прав программному продукту в разработку которого вбухано много денег. Чего доброго выходных и зарплату потребует )) Ну ничего, отольются кошкам мышкины слезки! Вот пустят такой ИИ в серию и когда-нибудь он "отправит в отпуск" руководство компании.

Предстоящие мероприятия
Позавчера, 19:20
Мария Азарова

Исследователи из Южной Кореи на примере супружеских пар проверили, как длина и состояние волос женщин отражаются на влечении к ним мужчин и частоте половых контактов.

Вчера, 07:27
Полина

Международная команда исследователей проанализировала гены композитора Людвига ван Бетховена. Если оценивать по ним его способности к музыке, они окажутся невыдающимися.

Вчера, 07:30
Андрей

Международный союз геологических наук решительно отверг антропоцен как новую эпоху в истории Земли. Термин, который активно обсуждали 15 лет, останется неформальным.

Позавчера, 19:20
Мария Азарова

Исследователи из Южной Кореи на примере супружеских пар проверили, как длина и состояние волос женщин отражаются на влечении к ним мужчин и частоте половых контактов.

Вчера, 07:27
Полина

Международная команда исследователей проанализировала гены композитора Людвига ван Бетховена. Если оценивать по ним его способности к музыке, они окажутся невыдающимися.

21 марта
Дарья Губина

По спектральным данным от «Джеймса Уэбба» и результатам компьютерного моделирования атмосферы астрономы показали, что экзопланета LHS 1140 b — мир-океан. Причем по характеристикам это лучший на сегодня потенциально обитаемый мир, подходящий для пристального изучения.

11 марта
Игорь Байдов

Американская компания Stratolaunch сообщила об успешном завершении летных испытаний прототипа гиперзвукового аппарата Talon-A, оснащенного ракетным двигателем. Во время беспилотного полета планер развил сверхзвуковую скорость.

18 марта
Игорь Байдов

Грузовой самолет будут использовать для перевозки 90-метровых лопастей ветряных турбин, которые невозможно доставить по суше из-за размеров. Предполагается, что этот аппарат произведет революцию в сфере возобновляемых источников энергии.

13 марта
Алиса Гаджиева

Древние переселенцы из Анатолии не только устроили геноцид в Скандинавии, но и одарили выживших новыми болезнями.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно