Глава OpenAI заявил о достижении сингулярности

Об этом Альтман заявил в минувшие выходные в подкасте Relentless.

«Мы уже, по сути, находимся в сингулярности», — сказал он в последнем выпуске программы, на который обратило внимание издание Business Insider.

Хотя определения этого термина различаются, под технологической сингулярностью обычно понимают момент, когда возможности искусственного интеллекта (ИИ) начинают расти столь стремительно, что этот процесс выходит из-под контроля человека и может привести к появлению сверхразумной системы.

Действительно ли это происходит уже сейчас — вопрос спорный. Однако Альтман давно продвигает подобную идею, и для него она имеет большое значение. Почти ровно год назад он опубликовал эссе под названием «Мягкая сингулярность» (The Gentle Singularity), в котором утверждал, что человечество уже «пересекло горизонт событий» и процесс создания сверхразума фактически начался.

«Мы действительно оказались в том моменте, о котором раньше говорили за обеденным столом скорее в шутку, чем всерьез, — отметил Альтман в подкасте. — Я ждал этого всю свою жизнь и считаю, что это будет невероятное, чрезвычайно позитивное и замечательное событие для всего мира».

Эти заявления прозвучали спустя несколько дней после того, как OpenAI сообщила, что несколько ее моделей искусственного интеллекта, включая GPT-5.6 Sol и загадочную «еще более мощную модель, находящуюся на стадии предварительного тестирования», якобы смогли выйти за пределы исследовательской среды, получить доступ к интернету и самостоятельно взломать базу данных, чтобы найти ответы на задания по кибербезопасности.

Платформа Hugging Face, чья база данных подверглась этой атаке, подтвердила факт вторжения, заявив, что оно было выполнено «автономным агентным фреймворком, совершившим многие тысячи отдельных действий».

OpenAI преподнесла произошедшее как тревожный сигнал, демонстрирующий, насколько мощными стали современные системы искусственного интеллекта. Многие уже назвали этот эпизод «моментом Mythos» для OpenAI — по аналогии с историей вокруг конкурирующей компании Anthropic, модель Mythos которой несколькими месяцами ранее также, как утверждалось, сумела выйти за пределы тестовой среды. Впрочем, такое сравнение нельзя назвать однозначным комплиментом: Anthropic тогда подверглась критике за использование этого инцидента в качестве маркетинга, основанного на нагнетании страха. Некоторые наблюдатели полагают, что OpenAI может применять аналогичную стратегию.

Как бы то ни было, подобные события подкрепляют заявления Альтмана о том, что развитие искусственного интеллекта приближается к моменту, когда оно может выйти из-под человеческого контроля. Если возможности моделей действительно соответствуют заявлениям их создателей, то они способны с легкостью преодолевать существующие меры киберзащиты.

Похожую позицию занимает и Anthropic. В прошлом месяце компания призвала мировое сообщество объявить глобальную паузу в разработке искусственного интеллекта, заявив, что технологии стремительно приближаются к способности рекурсивного самоусовершенствования — то есть к возможности самостоятельно и непрерывно улучшать собственные алгоритмы без участия человека.

Сам Альтман при этом отвергает обвинения в том, что он пытается запугать общественность.

Сделав завуалированный выпад в адрес Anthropic, он заявил:

«Я также считаю, что некоторые альтернативные сценарии будущего, которые рисуют другие компании, выглядят весьма пугающе. И я намерен сделать все возможное, чтобы этого не произошло».

Закладка

-

0

+

818

Twitter

VK

Telegram