#большие языковые модели

Трудно ли создать машинный сверхинтеллект? Поможет ли ИИ перейти к новому технологическому укладу? И как обучать искусственный разум на малом количестве примеров? Какие сложности возникают при взаимодействии с умными роботами, обсудили с директором центра когнитивного моделирования МФТИ, руководителем научной группы «Нейросимвольная интеграция» в Институте искусственного интеллекта AIRI Александром Пановым.

Военные США изучили возможность применения чат-ботов в планировании боевых действий в контексте военного симулятора, основанного на компьютерной стратегии StarCraft II. Они разработали новый чат-бот на базе больших языковых моделей OpenAI и сравнили его с другими чат-ботами, доступными для обычных пользователей. Военные остались довольны, а эксперты предупредили о неприятных последствиях в случае использования таких технологий в реальности. Среди таких последствий — значительные «запланированные» потери.

Если допустить, что разумная жизнь во Вселенной не редкость и встреча людей с внеземными цивилизациями неизбежна, многие исследователи задаются вполне справедливыми вопросами: на что будет похож этот контакт? Приведет это к войне или миру? Ученые из США и Китая разработали инновационную платформу на базе искусственного интеллекта, которая моделирует контакты между нашей и внеземными цивилизациями, а также их сложные взаимодействия друг с другом. Результаты оказались неожиданными.

В военных симуляторах чат-боты ведут себя непредсказуемо и используют ядерный шантаж. Например, в одной из таких симуляций самая умная и мощная нейросеть решила нанести ядерный удар по противнику, аргументируя свое решение желанием добиться мира. Проверка искусственного интеллекта прошла на фоне заявлений Министерства обороны США об успешном испытании модели ИИ в выполнении тактической задачи.

Чат-бот «Элиза», написанный в 1966 году, в разговоре с людьми смог лучше убедить их в том, что является человеком, чем чат-бот GPT-3.5, который создали в 2022-м. Авторы нового исследования отметили, что тест Тьюринга, который многие специалисты считают золотым стандартом оценки способностей искусственного интеллекта, может быть неточным.

Редактор журнала Scientific American Джордж Массер — о том, почему модели ИИ, обученные повторять, как попугаи, тексты из интернета, оказываются способны решать совершенно новые для них и весьма продвинутые задачи.

Вдумайтесь: буквально на наших глазах понятия «нейронные сети» и «искусственный интеллект» перестали быть чем-то, что ассоциируется с научной фантастикой, — теперь это наша обыденность. Вместе с телеграм-каналом «Цифровой Журнал» разобрались, что сейчас в центре внимания в мире технологий. Naked Science: Многие часто путаются и не могут понять, что есть нейросеть, а что относится к термину...