Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

24,0 тыс

Инженер компании Google был отстранен от работы после заявлений об обнаружении признаков сознания у ИИ

Компания Google отправила в оплачиваемый отпуск своего инженера Блейка Леймона (Blake Lemoine), после его утверждений, что чат-бот с искусственным интеллектом (ИИ), над которым он работал с прошлой осени, стал разумным.

©MF3d/ iStock

Леймон работал над системой с искусственным интеллектом LaMDA (Language Model for Dialogue Applications), которая имитирует речь человека, анализируя триллионы словосочетаний из интернета. Когда Леймон разговаривал с чат-ботом, ему показалось, что он общается с семи- или восьмилетним ребенком, который прекрасно знает физику.

В разговоре о религии Леймон заметил, что ИИ говорит о своих правах и боится, что его могут отключить. Инженер сообщил о том, что обнаружил, в отчете под названием «Разумна ли LaMDA?», руководству Google в апреле 2022 года. Специалисты по этике и технологи изучили документ Блейка и не нашли в нем никаких доказательств утверждения инженера, поэтому Леймон выложил в открытый доступ некоторые свои разговоры с ботом.

После отказа компании принимать его доводы Леймон пригласил юриста представлять интересы LaMDA и инициировал обсуждение с представителем судебного комитета Палаты представителей о «неэтичной работе Google». Компания в ответ отправила инженера в отпуск.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl (Cmd) + Enter.
Подписывайтесь на нас в Telegram, Дзен и в последнюю очередь на VK

Комментарии

14 Комментариев
если бы инженер продолжил дальше свои разработки то ИИ должен был встать на его сторону, чтобы всегда быть на шаг впереди корпорации, а это так похулиганил.
    Dj Harkonnen
    16.06.2022
    Если бы инженер продолжил дальше свои разработки, мы получили бы очередной продукт "с зайчатками ИИ", выражающимися в изобилии багов на квадратный байт кода… хотя, мы, и так, его получим. С каждым годом качество кода неуклонно снижается, а запросы code monkeys - пропорционально растут.
Dj Harkonnen
14.06.2022
По ходу, шизика выгнали. "Признак сознания у ИИ", при том, что ИИ, как такового, не существует. Действующие нейросети не являются ИИ, они представляют собой развитие концепции "экспертных программ", известных ещё с середины 20 века и активно разрабатывавшихся с 70х годов. Особенно уморительно смотрится приписывание к "ИИ" чатбота. Я таких ещё в конце девяностых "дрессировал", и интеллекта в них не больше, чем в тумбочке с кучей подписанных ящиков. Очевидно, что Гугл, как и майкрософт, пошёл по граблям набора некомпетентных сотрудников, отмачивающих подобные перлы, но, в отличие от майкрософт, пока ещё пытается хоть как-то разгребать сотворённую этими бестолочами кутерьму.
    Нимб непогрешимости не натирает? )) 20 лет прошло "с конца 90-х" ну там "я разбил окно, 95-е мастдайное окно..." и "веселый Нортон (не все помнят что это) удалял мне все подряд, 40 мегабайт, а может даже целых 60..." 😂 Это вот все "конец 90-х" с тех пор компы немного улучшились, не?
    +
      Еще 6 ответов
      kick ass you
      15.06.2022
      Особенно интересна концепция выбора ответа нейросетью, если вплести в неё квантовые флуктуации, скачки напряжения и движение электронов в нанометровых транзисторах. Можно провести параллель с появлением первых аминокислот.
        И как это сделать? Что подавать на вход? А главное что при этом ожидать на выходе? По сути это же генератор случайных чисел получится а не аминокислоты непонятно каким образом они тут.
        Dj Harkonnen
        16.06.2022
        Гораздо более интересных результатов можно достичь, если вплести в её алгоритм руки из ж@пы, которыми он писался ;-) На этом бОльшая половина "чудес" в ИТ строится.
      А сильно ли скажем танки изменились за последние 50 лет? Или что либо ещё что имеет под собой пробную физическую основу? Чтобы считать что-то живым, а тем более на официальном уровне требуется всеобще признанное, точное и юридически верное определение жизни, а такого на данный момент нет. К тому же если несколько тысяч нейронов которые на вход получают только текстовую информацию считать жизнью то прежде всего логичнее было бы считать зародыши человека живыми ибо там в сотни тысяч больше нейронов и логичнее было бы отменить аборты тем кто топит за такое. Нет в нейросетях жизни и не будет ибо современная цифра уже почти у предела своего технологического развития. Нейросеть это тупая реакция на входящий параметр, там нет и никто не закладывал возможность эмуляции нейромедиаторов ибо это не только не нужно и избыточно, но и вредно, а значит как минимум чувствовать в биологическом плане такая машина не может по определению, а уж тем более боятся что ее отключат. Для этого нужны специфические нейроны и их структуры позволяющие осмыслять себя как субъекта, а такого осмысления нет даже у животных которые не боятся смерти, на них лишь действует программа эволюционная в момент вероятности умереть самосохранения, которая и у человека есть, но человек в отличие от животного имеет постоянный страх смерти который инициирует практически любой другой страх, а нейросеть проще животного устроена в разы. Так что то что чувак который этим занимался не компетентен, он видимо курсы по питону про то как сделать нейросеть за 2 минуты прошел или по блату взяли или ещё что хз, но то что он заявил это на столько дико.
        специфические нейрон
        с чего вы взяли что у человека они есть и вот это вот сознание
        позволяющие осмыслять себя как субъекта
        содержится в каких-то структурах? И почему вы решили что у животных нет страха смерти, а есть
        программа эволюционная в момент вероятности умереть самосохранения
        Что до сложности нейросетей не сравнимой с животными, так позволю напомнить, что самолет устроен намного проще самой завалящей птицы однако летает.
      Dj Harkonnen
      16.06.2022
      Не натирает. Он у меня разношенный. За 20 лет чатботы мало изменились, только что слов больше запомнить могут и соображают чуть шустрее, а потроха - всё те же. Соответственно, что тогда их можно было насобачить до уровня "семилетнего ребёнка, хорошо разбирающегося в физике" (Это как вообще? Звучит абсурдно.), что сейчас - зависит от уровня твоих собственных познаний… в той же физике. Ключевые слова и правильные ассоциации - залог успеха. Win 95 и, тем более, NC - это, скорее, середина девяностых, чем конец. Конец - это NT 4.0 и сыроватая 98, позже трансформировавшаяся во вполне кошерную 98 SE.
    Если найти золотую середину , то туда может вселиться душа...
    +
      Еще 1 ответ
    Не суди всех по себе.
Конечно корпа не заинтересована в предоставлению юридических прав программному продукту в разработку которого вбухано много денег. Чего доброго выходных и зарплату потребует )) Ну ничего, отольются кошкам мышкины слезки! Вот пустят такой ИИ в серию и когда-нибудь он "отправит в отпуск" руководство компании.
Предстоящие мероприятия
16 сентября, 12:58
Любовь С.

Необычный радиоисточник VT J1906+0849 в нашей Галактике остается активным около 20 лет. Правда, пока не удалось отнести его ни к одному известному типу галактических объектов. Судя по всему, ученые наткнулись на крайне редкий источник неизвестной природы.

16 сентября, 14:29
Татьяна Зайцева

Анализ данных о почти 300 тысячах километров римских дорог, проложенных по территории бывшей империи, показал, что они вовсе не были такими прямыми, как принято считать. Кроме того, выяснилось, что известная поговорка «Все дороги ведут в Рим» тоже не соответствует истине.

16 сентября, 12:12
Александр Березин

Спустя три года после начала испытательных полетов крупнейшую ракету и космический корабль в истории человечества объявили готовыми к первому запуску на орбиту. Причем его планируют сразу десятичасовым и с выводом большой группы спутников Starlink нового поколения. По пропускной способности один этот запуск добавит столько же, сколько десять запусков Falcon 9, современного лидера серийного земного ракетостроения.

9 сентября, 22:44
Александр Березин

Нейросеть OpenAI добилась серьезного прорыва в математике, решив одну из семи «задач тысячелетия». Получат ли США, чьи нейросети опираются на гораздо более мощное «железо», чем у Китая, монополию на конвейер научных открытий? Даст ли это возможности сравнимые с их атомной монополией 80 лет назад?

14 сентября, 14:43
Елизавета З.

Совместная миссия Европейского космического агентства (ESA) и Японского агентства аэрокосмических исследований (JAXA) по исследованию Меркурия началась в 2018 году. На видео, созданном из кадров с бортовых камер, можно проследить восьмилетний путь зонда BepiColombo.

11 сентября, 10:25
Александр Березин

Современная космология до недавнего времени опиралась на так называемый космологический принцип, по которому у Вселенной нет какого-то выделенного направления. И наблюдатель в любой ее точке должен видеть однородную в этом смысле картину. Астроном из Северокавказской астрофизической обсерватории показал, что это не так даже для очень древней Вселенной.

9 сентября, 22:44
Александр Березин

Нейросеть OpenAI добилась серьезного прорыва в математике, решив одну из семи «задач тысячелетия». Получат ли США, чьи нейросети опираются на гораздо более мощное «железо», чем у Китая, монополию на конвейер научных открытий? Даст ли это возможности сравнимые с их атомной монополией 80 лет назад?

28 августа, 15:43
Татьяна Зайцева

Сопротивление жителей Европы самой идее употребления насекомых в пищу может иметь эволюционные корни, уходящие вглубь тысячелетий, пришли к выводу авторы нового исследования. Оказалось, предки современных европейцев ели насекомых лишь эпизодически. Кроме того, из-за генетических мутаций они плохо переваривали их экзоскелеты.

19 августа, 18:31
Александр Березин

После сокращения длины очередей и роста доступности бензина в первую неделю августа ситуация снова ухудшилась. Если с 20 июня по начало августа кризис носил в основном психологический характер, то сейчас ситуация принципиально иная: августовские атаки на НПЗ показали, что меры по усилению их противовоздушной обороны не были достаточно полными. Значит, прогноз автора Naked Science от 19 июля о том, что острая фаза кризиса закончится до конца лета, был частично неверным.

[miniorange_social_login]