• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Руководство OpenAI знает, что ИИ может уничтожить человечество, но ничего не предпринимает 

Бывший сотрудник OpenAI Дэниел Кокотайло (Daniel Kokotajlo) в интервью изданию The New York Times обвинил компанию в игнорировании огромных рисков, связанных с разработкой общего искусственного интеллекта (AGI). Он будет равен человеку по возможностям или даже превзойдет его, поскольку люди, принимающие решения, стремятся стать первыми в создании AGI.

Генеральный директор OpenAI Сэм Альтман / © Jason Redmond / Agence France-Presse
Генеральный директор OpenAI Сэм Альтман / © Jason Redmond / Agence France-Presse

Кокотайло рассказал журналистам The New York Times, что после того, как он устроился на работу в OpenAI в 2022 году, основной задачей стало прогнозирование развития технологии. Кокотайло пришел к выводу: отрасль достигнет AGI к 2027-му, к тому же существует большая вероятность того, что AGI нанесет катастрофический вред или даже уничтожит человечество с вероятностью примерно 70 процентов.

Поскольку специалист настолько был уверен в том, что искусственный интеллект представляет огромные риски для человечества, в конце концов он лично убедил генерального директора OpenAI Сэма Альтмана, что компании необходимо «переключиться на безопасность» и потратить больше времени на то, чтобы взять технологию под контроль, а не продолжать делать ее умнее.

Альтман, по словам бывшего сотрудника, в то время, казалось, был согласен, но со временем спустил все на тормозах.

Разочаровавшись в OpenAI, Кокотайло покинул компанию в апреле 2024 года.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

Написать комментарий
25 января, 16:53
Evgenia Vavilova

В зоопарках звери доживают до старости и выбывают из программ глобального сохранения видов, потому что не могут размножаться. Это ставит под угрозу усилия по поддержанию популяций редких видов.

25 января, 10:04
Александр Березин

Вопреки множеству оценок из СМИ, самый крупный остров мира небогат полезными ископаемыми, но и никак не «бесполезный кусок льда». Открытия датских ученых последних лет показывают, что ценность этого куска суши намного выше, чем можно было подумать еще в 2010-х. Так зачем на самом деле он нужен Трампу и может ли его отъем разрушить НАТО, как на это надеются некоторые в России?

26 января, 09:31
Игорь Байдов

Занятие творчеством и искусством не просто приятное времяпрепровождение. Оно также помогает людям сохранить здоровье, и теперь ученые, возможно, поняли почему. Команда исследователей из Великобритании выяснила, что вовлечение в творчество и искусство связано с положительными изменениями в физиологии организма. Они получили доказательства этого феномена, проанализировав кровь почти шести тысяч человек.

25 января, 16:53
Evgenia Vavilova

В зоопарках звери доживают до старости и выбывают из программ глобального сохранения видов, потому что не могут размножаться. Это ставит под угрозу усилия по поддержанию популяций редких видов.

25 января, 10:04
Александр Березин

Вопреки множеству оценок из СМИ, самый крупный остров мира небогат полезными ископаемыми, но и никак не «бесполезный кусок льда». Открытия датских ученых последних лет показывают, что ценность этого куска суши намного выше, чем можно было подумать еще в 2010-х. Так зачем на самом деле он нужен Трампу и может ли его отъем разрушить НАТО, как на это надеются некоторые в России?

23 января, 08:27
Полина Меньшова

В основе современной грамматики лежит теория, согласно которой в сознании человека язык «хранится» в виде иерархических структур — групп из двух слов, где одна составляющая зависит от другой, но вместе они образуют единое целое с точки зрения смысла. Однако лингвисты из Дании продемонстрировали, что устройство языка может быть проще: многие значимые группы слов представляют собой линейные последовательности, а не иерархии.

12 января, 15:39
Александр Березин

От рыб произошли все наземные позвоночные, включая нас, но как именно рыбы стали главным населением морей — до последнего времени оставалось неясным. Авторы новой научной работы попытались доказать, что причиной этого было вымирание, возможно, вызванное белыми ночами.

20 января, 13:40
Александр Березин

Хотя зоологи уже не раз наблюдали использование орудий у относительно близких к людям видов, — от приматов до свиней — коровы до сих пор не были за этим замечены. Теперь ситуация изменилась: оказалось, что они могут использовать многоцелевые орудия по-разному, в зависимости от обстоятельств.

2 января, 12:27
Адель Романова

Ученые задались вопросом: почему два расположенных по соседству спутника Юпитера такие разные, ведь на Ио повсеместно извергаются вулканы, а Европа полностью покрыта многокилометровой коркой льда. Есть версия, что Ио когда-то тоже была богата водой, но по итогам недавнего исследования это сочли неправдоподобным.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно