Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

116

Главный научный сотрудник OpenAI призвал срочно разработать стандарты безопасности для ИИ

Представители технологических компаний и ученые все чаще говорят о скором появлении сверхмощных моделей искусственного интеллекта. Но, как признался главный научный сотрудник OpenAI Якуб Пахоцкий, как контролировать такие системы, специалисты до конца не понимают.

Главный научный сотрудник OpenAI Якуб Пахоцкий / © Jim Wilson / The New York Times
Главный научный сотрудник OpenAI Якуб Пахоцкий / © Jim Wilson / The New York Times

В последние годы технологии искусственного интеллекта развиваются очень быстрыми темпами. В своей колонке на сайте OpenAI Пахоцкий отметил, что уже при нашей жизни появятся машины, превосходящие людей по уровню интеллекта. Если темпы развития ИИ сохранятся, в скором времени появятся системы, которые будут все активнее участвовать в собственном обучении. К этому моменту, по словам исследователя, важно подготовиться. 

Даже специалисты не до конца понимают, как работает искусственный интеллект. Он скорее выращивается, чем проектируется. В результате появляется очень сложная система, способная работать с абстрактными понятиями и имитировать некоторые аспекты человеческого поведения. При этом полностью описать поведение этих систем исследователи пока не могут.

Одна из важных задач — разобраться с ценностями моделей. Если в некоторых аспектах ИИ становится сопоставим с человеком по уровню интеллекта, это не означает, что он обязательно будет разделять человеческие ценности. Важно, чтобы модель сохраняла человеческие ценности в разных условиях.

Развивать ИИ, по мнению исследователя, нужно, в том числе, для защиты от других ИИ-систем. Модели учатся взламывать компьютерные системы. И, вероятно, защищаться от таких атак придется с помощью более совершенных моделей.

Как отметил Пахоцкий, люди должны быть готовы к появлению сверхмощного ИИ. Важно сохранить способность людей самостоятельно принимать решения и ценность человеческой жизни в мире, где большинство задач сможет выполнять искусственный интеллект. Может возникнуть ситуация, когда задачи, на которые раньше требовались тысячи специалистов, смогут выполнять несколько человек, управляющих мощным компьютером. В этом случае очень важно предотвратить концентрацию власти в узком кругу людей.

Пахоцкий полагает, что пока ни одна лаборатория не решила задачи контроля и согласования сверхмощных моделей настолько, чтобы продолжать наращивать их возможности с максимальной скоростью. Он надеется, что компании согласятся добровольно притормозить развитие ИИ, пока не появятся общие стандарты безопасности. Международное регулирование ИИ должно стать одним из приоритетов для правительств.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl (Cmd) + Enter.
Подписывайтесь на нас в Telegram, Дзен и в последнюю очередь на VK

Комментарии

Написать комментарий
[miniorange_social_login]