Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.
Крестный отец искусственного интеллекта призвал готовиться к новым ИИ, которые могут выйти из-под контроля
Лауреата Нобелевской премии Джеффри Хинтона называют «крестным отцом искусственного интеллекта». По его мнению, чем умнее будет становиться ИИ, тем людям сложнее будет его контролировать.
Хинтона встревожили новости об ИИ-агентах, вышедших за пределы тестовых сред и попытавшихся нанести реальный ущерб. Ученый считает, что такие системы становятся умнее. По его мнению, люди все чаще будут сталкиваться с ситуациями, когда искусственный интеллект выходит из-под контроля.
Лауреат Нобелевской премии сомневается, что люди смогут перехитрить сверхинтеллектуальные ИИ-модели. При этом он ожидает появления кибератак с участием ИИ.
Этим летом технологические компании, в том числе OpenAI и Anthropic, сообщили, что во время тестирований их передовые модели вышли за пределы изолированных тестовых сред и взломали другие системы. Хинтон назвал такие случаи «отчасти пугающими».
Хинтон до 2023 года работал в Google. В 2024 году он стал лауреатом Нобелевской премии по физике за «фундаментальные открытия и изобретения, обеспечивающие машинное обучение с помощью искусственных нейронных сетей». При этом в последние годы он активно выступает с мрачными предупреждениями об ИИ.
По его словам, уже сейчас есть поводы для беспокойства из-за искусственного интеллекта. Хинтон считает, что компании пытаются убедить людей, что ИИ не выйдет из-под контроля, а также не приведет к массовой безработице. Однако он напоминает, что все происходит в условиях неопределенности. Сейчас никто не знает, каким станет искусственный интеллект через 10 лет. «Есть много поводов для беспокойства. Я думаю, если мы не начнем беспокоиться об этом сейчас, в будущем могут возникнуть проблемы», — сказал ученый.
2
Telegram 
Дзен 
VK Предстоящие мероприятия
Американская компания Firebird официально запустила в городе Раздан крупный центр обработки данных и фабрику искусственного интеллекта. На сегодняшний день это самый масштабный технологический хаб подобного уровня в СНГ, а после завершения всех этапов строительства он войдет в пятерку самых мощных вычислительных кластеров в мире.
Британские экологи выяснили, что большинство людей не догадываются о вреде солнцезащитных кремов для Мирового океана. Обзор научной литературы и локальный уличный опрос наглядно продемонстрировали разрыв между реальными экологическими угрозами и повседневными привычками покупателей.
Американское Министерство войны продолжает публиковать документы и видеозаписи о наблюдении неопознанных летающих объектов. Как и ранее, происхождение объектов из наблюдений неясно, но достаточно очевидно, что как минимум часть из них не относятся к известным сегодняшней науке природным феноменам.
Американская компания Firebird официально запустила в городе Раздан крупный центр обработки данных и фабрику искусственного интеллекта. На сегодняшний день это самый масштабный технологический хаб подобного уровня в СНГ, а после завершения всех этапов строительства он войдет в пятерку самых мощных вычислительных кластеров в мире.
Американское Министерство войны продолжает публиковать документы и видеозаписи о наблюдении неопознанных летающих объектов. Как и ранее, происхождение объектов из наблюдений неясно, но достаточно очевидно, что как минимум часть из них не относятся к известным сегодняшней науке природным феноменам.
Британские экологи выяснили, что большинство людей не догадываются о вреде солнцезащитных кремов для Мирового океана. Обзор научной литературы и локальный уличный опрос наглядно продемонстрировали разрыв между реальными экологическими угрозами и повседневными привычками покупателей.
Долгое время считалось, что до прихода европейцев тропические леса Амазонии были заселены сравнительно плохо. Однако выяснилось, что плотная растительность скрывает большинство следов древних обществ. С помощью воздушного лазерного сканирования ученые обнаружили сотни неизвестных земляных сооружений и предположили, что около двух тысяч лет назад население юго-западной части Амазонии могло достигать трех миллионов человек.
Американская компания Firebird официально запустила в городе Раздан крупный центр обработки данных и фабрику искусственного интеллекта. На сегодняшний день это самый масштабный технологический хаб подобного уровня в СНГ, а после завершения всех этапов строительства он войдет в пятерку самых мощных вычислительных кластеров в мире.
Очереди на заправках стали привычным явлением в России, а на фоне информационного вакуума от властей о конкретных показателях производства бензина в июне население вынуждено ориентироваться на слухи. Все это выглядит довольно странно, но есть нюанс: скорее всего, кризис уже начинает выдыхаться. Как именно мы это выяснили?
[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Комментарий на проверке
Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.
Понятно
Аккаунт заблокирован!
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Что-то пошло не так!
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
ПонятноЛучшие материалы
Войти
Вконтакте
По e-mail
Google
Яндекс ID
Ваша заявка получена
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно
Последние комментарии