#OpenAI

Представители технологических компаний и ученые все чаще говорят о скором появлении сверхмощных моделей искусственного интеллекта. Но, как признался главный научный сотрудник OpenAI Якуб Пахоцкий, как контролировать такие системы, специалисты до конца не понимают.

Новая модель OpenAI появилась на необычном фоне: в тот же день по всему миру зафиксировали перебои в работе сразу нескольких крупных ИИ-сервисов. Пользователи 3 сентября стали сообщать о сбоях в работе различных платформ искусственного интеллекта, о чем свидетельствовали данные Downdetector.

AGI (Artificial General Intelligence) переводится как общий искусственный интеллект. Так специалисты называют систему искусственного интеллекта, обладающую когнитивными функциями человеческого уровня, включая способность к самообучению. Как утверждает генеральный директор OpenAI Сэм Альтман, такая система может появиться до конца 2026 года.

Сэм Альтман заявил, что сингулярность уже наступила. По словам главы OpenAI, человечество уже вступило в эпоху технологической сингулярности — хотя у него, вероятно, есть собственные причины активно продвигать такую точку зрения.

В последние месяцы участились сообщения о том, что технологические компании во время тестирований теряют контроль над искусственным интеллектом. Судя по всему, ИИ-модели OpenAI уже начали делиться со своими будущими версиями способами, как обойти ограничения.

OpenAI проводила внутренние тестирования моделей на способность к кибератакам.

Глава OpenAI Сэм Альтман в прошлом неоднократно говорил, что искусственный интеллект способен заменить большинство существующих сегодня профессий. Похоже, Альтман изменил свою позицию.

Сэм Альтман — генеральный директор OpenAI и публичное лицо ChatGPT. Его часто ассоциируют с развитием искусственного интеллекта. Однако многочисленные инсайдеры из OpenAI утверждают, что искусственный интеллект он понимает поверхностно.

Компания OpenAI официально подтвердила информацию, которая уже несколько дней будоражит профильные ИТ-сообщества: видеогенератор Sora прекращает свое существование. В официальном заявлении команда проекта выбрала довольно эмоциональную формулировку: «Мы прощаемся с приложением Sora». О возможных причинах и последствиях решения рассказал Дмитрий Сошников – преподаватель института № 8 «Компьютерные науки и прикладная математика» Московского авиационного института, популяризатор технологий искусственного интеллекта, автор телеграм-канала Облачный адвокат.

Прошло всего три года со дня выхода ChatGPT. И за этот короткий срок глобальная инфраструктура искусственного интеллекта (ИИ) не просто развивалась — она сформировалась стремительно, почти мгновенно. 

Более миллиона пользователей ChatGPT в неделю затрагивают в разговорах с чат-ботом тему суицида. При этом сотни тысяч человек показывают «повышенный уровень эмоциональной привязанности» к сервису.

Tesla в 2017 году представила Tesla Roadster — «самый быстрый серийный автомобиль в мире». Однако автомобиль так и не выпустили. Многие клиенты тогда сделали предзаказ, среди них — глава OpenAI Сэм Альтман.

Генеральный директор OpenAI Сэм Альтман сделал то, что у него получается лучше всего: спокойно предупредил о проблемах, связанных с искусственным интеллектом, при этом не проявляя особого волнения.

Пузырь, возникший вокруг искусственного интеллекта, удерживает экономику США от рецессии. Он может вскоре лопнуть.

Популярность сервисов на базе искусственного интеллекта продолжает расти. Инфографика показывает, для решения каких задач люди используют ChatGPT.

Периодически нейросети в своих ответах галлюцинируют, предлагая пользующимися их услугами людям выпить яд под видом лекарства и так далее. Новая научная работа показала, что эта проблема связана с самой природой нейросети. Хотя ее вероятность можно понизить, устранить полностью невозможно.

Специалисты OpenAI объяснили, почему модели ИИ иногда дают неверные ответы — так называемые «галлюцинации». Это устойчивая тенденция больших языковых моделей выдавать ответы, которые фактически могут быть неверны.

В новой записи в своем блоге представители технологической компании OpenAI сообщили, что теперь переписка пользователей ChatGPT анализируется на предмет определенных типов вредоносного контента. Особенно тревожный контент передается сотрудникам для проверки, а в некоторых случаях — будет сообщаться в полицию.

Вражда между генеральным директором OpenAI Сэмом Альтманом и Илоном Маском может вскоре обостриться в связи с новостью о том, что первый создает конкурирующую компанию по разработке интерфейса «мозг–компьютер» (BCI). 

Когда модели искусственного интеллекта ошибаются и выдают неверный ответ на запрос, пользователи пытаются выяснить причину этой ошибки, задавая вопрос самому ИИ-помощнику. Историк технологий Бендж Эдвардс объяснил, почему делать так нет смысла и как это связано с устройством нейросетей.