• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

«Крестный отец искусственного интеллекта» покидает Google и сожалеет о разработке ИИ

В течение полувека ученый-информатик Джеффри Хинтон, которого называют «крестным отцом искусственного интеллекта», развивал технологию, лежащую в основе чат-ботов, в частности и ChatGPT. Теперь он опасается, что она может нанести серьезный вред.

Доктор Джеффри Хинтон / ©The New York Times 
Доктор Джеффри Хинтон / ©The New York Times 

Доктор Джеффри Хинтон покинул компанию Google, чтобы рассказать о своей обеспокоенности по поводу того, что искусственный интеллект (ИИ) может причинить миру серьезный вред.

В новом интервью для The New York Times, Хинтон сообщил, что сожалеет о работе всей своей жизни: «Я утешаю себя стандартным оправданием: если бы я этого не сделал, это сделал бы кто-то другой».

Хинтон опасается, что гонка вооружений с использованием ИИ приведет к тому, что интернет будет настолько наводнен поддельными изображениями и текстом, что никто «больше не сможет узнать правду». Также Хинтон считает, что день, когда ИИ станет умнее людей и начнет самостоятельно улучшаться, может наступить куда раньше, чем мы думаем.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

36 Комментариев
Sokrat Gogiya
06.05.2023
-
1
+
Интернет и ИИ хороши, для широко образованного человека, а обезьяны тонут в кучах информационного мусора. Так что, профессор, не убивайтесь за человечество.
"никто «больше не сможет узнать правду». " А то сейчас в интернете легко узнать правду! Мы и без ИИ отлично справляемся, обманывая друг друга. Интернет уже давно инфопомойка, и с каждым годом только хуже. Может, допилят ИИ, чтобы он, наоборот, научился добывать из интернета максимально достоверную информацию - это был бы востребованный (а, возможно, и коммерчески выгодный) продукт. Пока что смешно и глупо выглядят рекомендации, например, по поводу лечения "почитай в интернете". Ага...
    -
    1
    +
    А то сейчас в интернете легко узнать правду
    А что, сложно? А если в процессе поиска правды пользоваться головой? А если своей?
    Мы и без ИИ отлично справляемся, обманывая друг друга
    И ещё более отлично наловчились выводить врунишек на чистую воду. Истошные визги неполживцев, коих регулярно тычут их же рылом в их же собственные духовные "ценности", про пропаганду, информационную войну и прочий экстремизм™ тому яркое свидетельство.
    +
      ещё комментарии
      А если в процессе поиска правды пользоваться головой? А если своей?
      Согласен, ключевое слово "если". "- Не читайте до обеда советских газет!- А если других нет?- Вот никаких и не читайте!"Как-то так... Говорят, что обычный человек может критически воспринимать поток информации только в течение определенного времени. Потом разум сопротивляться перестает и далее просто воспринимает информацию, не будучи способен оценивать ее достоверность.
        -
        1
        +
        обычный человек может критически воспринимать поток информации только в течение определенного времени.
        Что-то мне сомнительно, что я необычнее других. Однако несмотря на потоки помоев, яростно изливаемых в интернет провластными гёббельсятами, я до сих пор способен критически воспринимать и оценивать информацию.
          Сама нынешняя методика бесконечного повторения одних и тех же тезисов (что в рекламе, что в пропаганде) Вас опровергает. Значит, это работает в отношении большого процента граждан. Оглянитесь вокруг. Образованные и вполне разумные в других отношениях люди несут по известной теме такое, что волосы дыбом. Методика вполне эффективна. Помните, в "Обитаемом острове": большинство заходятся от патриотической истерики, а у некоторых только голова болит? Башни излучают...
Мы не успеем адаптироваться к тому количеству фейков, которое рожает ИИ. Это касается не только картинок, скоро он научится писать сайты, маскировать фейки под известные и раскрученные сайты, его научат работать с криптой, выуживать личные данные, выдавать себя за настоящих людей, проводить сделки, играть на бирже, принимать решения от их имени. Как итог цифровые "удобства" будут зарегулированы до "неудобств", а частично и вовсе отменены, цифровизация шагнет назад, уровень бюрократии вырастет в разы. Нас будут ждать новые "пакеты Яровой", а траты на новый уровень безопасности оплатим мы с вами.
    Не знаю кто такая Яровая, но часто от молодёжи слышу: "Яровая - тварь" - почему, можете обьяснить? Видимо какая то Антироссийская политик.
    +
      ещё комментарии
      Комментарий удален пользователем или модератором...
      какая то Антироссийская политик
      Вот ведь не думала гиперпатриотка Яровая, кем на самом деле считают ее избиратели... Не оценили?
      Ванечка
      05.05.2023
      -
      0
      +
      Ну вы довольно странную молодежь слышите. Даже не знаю что больше возбудило этих политизированных "подростков" запрет пропаганды наркотиков или ответственность за организацию массовых беспорядков? Ну а пакет Яровой это требование к операторам хранить и предоставлять органам переписку пользователей на предмет терроризма экстремизма и прочих высказываний в духе Левы Григорьева. К примеру обвинение руководства РФ в фашизме, которое он недавно выдал не особо смущаясь. Теперь понимаете почему эти люди не любят "камчадалку"? 🙂 Впрочем страсти по этому пакету сильно преувеличены, вон тот же "григорьев" ведет свою пропаганду на сайте уже пару лет, регулярно отмечаясь антироссийскими высказываниями чуть не в каждой теме и ничего с ним не случилось. https://uznayvse.ru/znamenitosti/biografiya-irina-yarovaya.html https://secretmag.ru/enciklopediya/chto-takoe-paket-yarovoi-obyasnyaem-prostymi-slovami.htm
        -
        1
        +
        предоставлять органам переписку пользователей на предмет терроризма экстремизма
        Статья 23 Конституции Российской Федерации? Не, по телеку не рассказывали. Ну это не считая той мелочи, что к терроризму с экстремизмом призывают как раз провластные средства массового расчеловечивания, агитации и дезинформации, сокращённо С.М.Р.А.Д.ы.
        обвинение руководства РФ в фашизме
        Определение фашизма в студию! И почему я практически полностью уверен в том, что если вы даже и сможете выдать хоть какое-то определение, то оно будет радикально отличаться от общепринятого во всём мире?
        вон тот же "григорьев" ведет свою пропаганду
        Что и как часто он вам пропагандирует? Почему он проделывает это только с вами?
      -
      1
      +
      какая то Антироссийская политик.
      Ну да. Деятельность прорежимных политиков направленна против России.
      MajorKiyashko
      11.05.2023
      -
      -1
      +
      Яровая тыкала Познера лицом в то, что он накидывал лопатой, пытаясь уличить Яровую в своей передаче. Приятно было смотреть. Дело было еще до войны, пару лет назад. Он потом говорил, что это самый неприятный человек из тех, кто бывал у него на интервью.
        -
        1
        +
        На самом деле всё было немножечко совсем наоборот. Яровая с разбегу села в кучу своих духовных "ценностей", которую сама же и навалила.
        это самый неприятный человек из тех, кто бывал у него на интервью
        Приличным людям свойственна брезгливость.
          Комментарий удален пользователем или модератором...
          MajorKiyashko
          11.05.2023
          -
          0
          +
          Познер в том интервью похож на студента, который был отличником в школе и некоторое время на этом багаже выезжал на первом курсе. А на экзамене поплыл. Готовиться надо было.
            -
            0
            +
            Познер в том интервью похож на студента, который был отличником в школе и некоторое время на этом багаже выезжал на первом курсе.
            Живое же у вас воображение. Даже чересчур. Вот ведь что делает с людьми животворящий вторичный продукт средств массового расчеловечивания, агитации и дезинформации.
            А на экзамене поплыл. Готовиться надо было.
            Надо быть очень духовнобогатым человеком, чтобы сравнивать "дебаты" с представителем прорежимной тусовочки с экзаменом.
              MajorKiyashko
              11.05.2023
              -
              0
              +
              "Закон Яровой приведет к значительному повышению тарифов на интернет и мобильную связь!", - говорили "эксперты". И вот, даже с учетом инфляции я плачу за интернет те же деньги, а вот стройматериалы подорожали процентов на 20-30. Какая связь? В любом случае, виновата Яровая: информационную безопасность надо что? Правильно, строить. А для этого нужны стройматериалы. Вот теперь, чтобы достроить дом, тяну на последних.
Аман
03.05.2023
-
0
+
Жиза
16 октября, 08:40
Любовь С.

Исследователи нашли в древнейших породах Гренландии, Канады и Южной Африки следы вещества с «внеземным» соотношением изотопов. По их мнению, его принесла прото-Земля — предшественник нашей планеты, предположительно существовавший до ее столкновения с другой планетой и образования Луны.

16 октября, 10:46
ПНИПУ

Количество машин в городах растет каждый год, что приводит к частой загруженности транспортных сетей. По статистике, в России за последние 10 лет число легковых автомобилей увеличилось на 8,7 миллиона. Однако постоянное строительство новых развязок не всегда возможно. Тогда эту проблему решают светофоры, которые обеспечивают попеременное движение в разных направлениях. Тем не менее, существующие методы их настройки не всегда работают эффективно. Ученые Пермского Политеха разработали алгоритм оптимизации перекрестков на основе компьютерного моделирования. Эта технология способна увеличить пропускную способность транспортной сети на 15—20%.

16 октября, 13:40
Игорь Байдов

Ученые обнаружили хорошо сохранившиеся кисти рук парантропа Бойса — представителя рода, обитавшего в Восточной Африке примерно от 2,3 до 1,2 миллиона лет назад. Анализ останков показал, что его руки были мощные, как у современной гориллы, но при этом способными к тонкой работе. Открытие, вероятно, заставит научный мир пересмотреть роль этого вида в эволюции.

13 октября, 11:10
Илья Гриднев

Согласно новой гипотезе, сознание возникает не только из-за активности нейронов, но и благодаря физическим процессам — электромагнитным полям от движения жидкости в мозге. Эта модель, как и ее предшественники, пока носит теоретический характер, но предлагает нестандартный взгляд на проблему синхронизации работы разных отделов мозга.

15 октября, 15:34
Адель Романова

Еще до официального открытия объект 3I/ATLAS попадал в поле зрения обсерваторий, и недавно эту межзвездную комету рассмотрели на архивных изображениях с космического телескопа TESS. На этих снимках у нее не оказалось комы. Тем не менее астрономы уверены, что комета должна была быть активной уже тогда.

13 октября, 19:23
Адель Романова

Недавно опубликованный план терраформирования Красной планеты предусматривает насыщение ее воздуха кислородом на 99%. При этом атмосферное давление должно будет стать примерно таким, как на высоте около 13-14 километров над Землей. Специалисты считают, что в такой среде можно дышать. Более того, у них есть конкретный план по достижению этой цели.

20 сентября, 08:52
Александр Березин

Посадка, включая выгорание куска степи, прошла штатно, но часть грызунов на борту погибли. Правда, погубила их не повышенная космическая радиация полярной орбиты, влияние которой на млекопитающих планировали выявить в миссии, а более банальные причины.

13 октября, 11:10
Илья Гриднев

Согласно новой гипотезе, сознание возникает не только из-за активности нейронов, но и благодаря физическим процессам — электромагнитным полям от движения жидкости в мозге. Эта модель, как и ее предшественники, пока носит теоретический характер, но предлагает нестандартный взгляд на проблему синхронизации работы разных отделов мозга.

26 сентября, 11:41
ИИМК РАН

Археологи Института истории материальной культуры РАН (ИИМК РАН), при поддержке фонда «История отечества» в ходе раскопок обнаружили на всемирно известной стоянке каменного века Костенки-17 в Воронежской области редчайшие украшения из зубов песца и окаменелой раковины, а также уникальный для этого времени нуклеус из бивня мамонта для снятия заготовок.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно