• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Инженер компании Google был отстранен от работы после заявлений об обнаружении признаков сознания у ИИ

Компания Google отправила в оплачиваемый отпуск своего инженера Блейка Леймона (Blake Lemoine), после его утверждений, что чат-бот с искусственным интеллектом (ИИ), над которым он работал с прошлой осени, стал разумным.

©MF3d/ iStock

Леймон работал над системой с искусственным интеллектом LaMDA (Language Model for Dialogue Applications), которая имитирует речь человека, анализируя триллионы словосочетаний из интернета. Когда Леймон разговаривал с чат-ботом, ему показалось, что он общается с семи- или восьмилетним ребенком, который прекрасно знает физику.

В разговоре о религии Леймон заметил, что ИИ говорит о своих правах и боится, что его могут отключить. Инженер сообщил о том, что обнаружил, в отчете под названием «Разумна ли LaMDA?», руководству Google в апреле 2022 года. Специалисты по этике и технологи изучили документ Блейка и не нашли в нем никаких доказательств утверждения инженера, поэтому Леймон выложил в открытый доступ некоторые свои разговоры с ботом.

После отказа компании принимать его доводы Леймон пригласил юриста представлять интересы LaMDA и инициировал обсуждение с представителем судебного комитета Палаты представителей о «неэтичной работе Google». Компания в ответ отправила инженера в отпуск.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

14 Комментариев
если бы инженер продолжил дальше свои разработки то ИИ должен был встать на его сторону, чтобы всегда быть на шаг впереди корпорации, а это так похулиганил.
    Dj Harkonnen
    16.06.2022
    -
    0
    +
    Если бы инженер продолжил дальше свои разработки, мы получили бы очередной продукт "с зайчатками ИИ", выражающимися в изобилии багов на квадратный байт кода… хотя, мы, и так, его получим. С каждым годом качество кода неуклонно снижается, а запросы code monkeys - пропорционально растут.
Dj Harkonnen
14.06.2022
-
-5
+
По ходу, шизика выгнали. "Признак сознания у ИИ", при том, что ИИ, как такового, не существует. Действующие нейросети не являются ИИ, они представляют собой развитие концепции "экспертных программ", известных ещё с середины 20 века и активно разрабатывавшихся с 70х годов. Особенно уморительно смотрится приписывание к "ИИ" чатбота. Я таких ещё в конце девяностых "дрессировал", и интеллекта в них не больше, чем в тумбочке с кучей подписанных ящиков. Очевидно, что Гугл, как и майкрософт, пошёл по граблям набора некомпетентных сотрудников, отмачивающих подобные перлы, но, в отличие от майкрософт, пока ещё пытается хоть как-то разгребать сотворённую этими бестолочами кутерьму.
    Нимб непогрешимости не натирает? )) 20 лет прошло "с конца 90-х" ну там "я разбил окно, 95-е мастдайное окно..." и "веселый Нортон (не все помнят что это) удалял мне все подряд, 40 мегабайт, а может даже целых 60..." 😂 Это вот все "конец 90-х" с тех пор компы немного улучшились, не?
    +
      ещё комментарии
      kick ass you
      15.06.2022
      -
      0
      +
      Особенно интересна концепция выбора ответа нейросетью, если вплести в неё квантовые флуктуации, скачки напряжения и движение электронов в нанометровых транзисторах. Можно провести параллель с появлением первых аминокислот.
        И как это сделать? Что подавать на вход? А главное что при этом ожидать на выходе? По сути это же генератор случайных чисел получится а не аминокислоты непонятно каким образом они тут.
        Dj Harkonnen
        16.06.2022
        -
        0
        +
        Гораздо более интересных результатов можно достичь, если вплести в её алгоритм руки из ж@пы, которыми он писался ;-) На этом бОльшая половина "чудес" в ИТ строится.
      А сильно ли скажем танки изменились за последние 50 лет? Или что либо ещё что имеет под собой пробную физическую основу? Чтобы считать что-то живым, а тем более на официальном уровне требуется всеобще признанное, точное и юридически верное определение жизни, а такого на данный момент нет. К тому же если несколько тысяч нейронов которые на вход получают только текстовую информацию считать жизнью то прежде всего логичнее было бы считать зародыши человека живыми ибо там в сотни тысяч больше нейронов и логичнее было бы отменить аборты тем кто топит за такое. Нет в нейросетях жизни и не будет ибо современная цифра уже почти у предела своего технологического развития. Нейросеть это тупая реакция на входящий параметр, там нет и никто не закладывал возможность эмуляции нейромедиаторов ибо это не только не нужно и избыточно, но и вредно, а значит как минимум чувствовать в биологическом плане такая машина не может по определению, а уж тем более боятся что ее отключат. Для этого нужны специфические нейроны и их структуры позволяющие осмыслять себя как субъекта, а такого осмысления нет даже у животных которые не боятся смерти, на них лишь действует программа эволюционная в момент вероятности умереть самосохранения, которая и у человека есть, но человек в отличие от животного имеет постоянный страх смерти который инициирует практически любой другой страх, а нейросеть проще животного устроена в разы. Так что то что чувак который этим занимался не компетентен, он видимо курсы по питону про то как сделать нейросеть за 2 минуты прошел или по блату взяли или ещё что хз, но то что он заявил это на столько дико.
        специфические нейрон
        с чего вы взяли что у человека они есть и вот это вот сознание
        позволяющие осмыслять себя как субъекта
        содержится в каких-то структурах? И почему вы решили что у животных нет страха смерти, а есть
        программа эволюционная в момент вероятности умереть самосохранения
        Что до сложности нейросетей не сравнимой с животными, так позволю напомнить, что самолет устроен намного проще самой завалящей птицы однако летает.
      Dj Harkonnen
      16.06.2022
      -
      0
      +
      Не натирает. Он у меня разношенный. За 20 лет чатботы мало изменились, только что слов больше запомнить могут и соображают чуть шустрее, а потроха - всё те же. Соответственно, что тогда их можно было насобачить до уровня "семилетнего ребёнка, хорошо разбирающегося в физике" (Это как вообще? Звучит абсурдно.), что сейчас - зависит от уровня твоих собственных познаний… в той же физике. Ключевые слова и правильные ассоциации - залог успеха. Win 95 и, тем более, NC - это, скорее, середина девяностых, чем конец. Конец - это NT 4.0 и сыроватая 98, позже трансформировавшаяся во вполне кошерную 98 SE.
    Если найти золотую середину , то туда может вселиться душа...
    +
      ещё комментарии
    Не суди всех по себе.
Конечно корпа не заинтересована в предоставлению юридических прав программному продукту в разработку которого вбухано много денег. Чего доброго выходных и зарплату потребует )) Ну ничего, отольются кошкам мышкины слезки! Вот пустят такой ИИ в серию и когда-нибудь он "отправит в отпуск" руководство компании.
Предстоящие мероприятия
25 мая, 14:00
Андрей Серегин

В доколумбовых Андах принадлежность к правящему роду определяла доступ к земле, торговле и статусу, поэтому удержать все внутри семьи было вопросом выживания. Ученые выяснили, что элиты долины Чинча решали эту задачу самым прямым способом — заключая браки между родственниками на протяжении как минимум двух поколений.

23 мая, 16:46
Evgenia Vavilova

Сверхпроводимость очень чувствительна к внутренней организации материала, в котором проявляется. Чтобы уговорить эту «птицу счастья» стабильно работать, физики тщательно следят практически за каждым атомом в сверхпроводниках и всеми воздействиями электромагнитных полей. Ученые могут контролировать хаотичные процессы в материалах, но могут их и использовать.

23 мая, 09:55
Андрей Серегин

Больше половины студентов регулярно читают учебные тексты под музыку, хотя многие научные работы утверждают, что это вредит пониманию текста. Исследователи из Университета Эдит Коуэн выяснили, что эта привычка определяется не когнитивными способностями вроде силы внимания, а тем, насколько важную роль музыка играет в жизни конкретного человека.

25 мая, 14:00
Андрей Серегин

В доколумбовых Андах принадлежность к правящему роду определяла доступ к земле, торговле и статусу, поэтому удержать все внутри семьи было вопросом выживания. Ученые выяснили, что элиты долины Чинча решали эту задачу самым прямым способом — заключая браки между родственниками на протяжении как минимум двух поколений.

25 мая, 10:21
Александр Березин

Последние несколько лет по всему миру выходит множество работ о том, что микрочастицы искусственных полимеров накапливаются в тканях человека и могут быть небезопасны. Мы решили обратиться к академику Алексею Хохлову, чтобы дать трибуну противоположной точке зрения. Выбор между ними предлагаем сделать читателю.

21 мая, 16:54
ЮФУ

Астрофизики Южного федерального университета предложили объяснение одной из самых интригующих загадок современной физики — годичных колебаний сигнала в детекторе DAMA/LIBRA, который вот уже почти тридцать лет регистрирует странные сигналы в подземной лаборатории Гран-Сассо в Италии, интерпретируемые как взаимодействие частиц темной материи с обычным веществом.

17 мая, 10:35
Игорь Байдов

В высокогорных районах Гималаев появился новый хищник. Он не боится людей, возглавляет стаи собак и все чаще заходит в деревни. Местные жители называют его «кхипшанг». Речь идет о гибриде гималайского волка и бродячей собаки. Ученые опасаются, что этот зверь изменит хрупкий баланс местной дикой природы и в скором времени станет весьма опасным для человека.

29 апреля, 13:04
Александр Березин

Релиз довольно неожиданно перенес время образования протонов и нейтронов в более раннее прошлое Вселенной. К сожалению, из его текста осталось неясным научное обоснование таких фундаментальных изменений в космологии. Также он резко передвинул в прошлое и момент возникновения реликтового излучения.

17 мая, 10:00
Evgenia Vavilova

При совпадении нескольких условий наши глаза способны улавливать излучение в ближнем инфракрасном спектре. Тогда сетчатка начинает работать как нелинейный фотодетектор.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Комментарий на проверке

Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Авторизуясь, вы даете согласие на обработку персональных данных и подтверждаете ознакомление с Политикой.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно