• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку
24 июня
Университет «Дубна»
185

В университете «Дубна» узнали, как человек и ИИ могут вместе не допускать аварий

4.4

Уровень доверия к ИИ и стратегии принятия решений исследовал профессор кафедры психологии ФСГН Государственного университета «Дубна» Александр Венгер. Совместно с профессором МФТИ Виктором Дозорцевым они разработали математическую модель, описывающую возможные стратегии оператора для устранения аварий на объектах повышенной опасности.

В университете «Дубна» узнали, как человек и ИИ могут вместе не допускать аварий / © Patrick Hendry, unsplash.com

В престижном международном журнале Mathematics опубликована статья доктора психологических наук, профессора кафедры психологии ФСГН Александра Венгера «Доверие рекомендациям искусственного интеллекта при принятии ответственных решений».

Важное направление применения ИИ – это опознание ситуаций, угрожающих аварией на объектах повышенной опасности. Обнаружив такую угрозу, ИИ предлагает оператору изменить режим технологического процесса, в простейшем случае – остановить его. Однако остановка влечет очень большие экономические потери, хотя и несопоставимые с последствиями аварии. Абсолютно точные предсказания невозможны, поэтому предупреждения ИИ носят вероятностный характер. ИИ только дает рекомендации, а решение принимает оператор – человек. При этом он должен практически исключить возможность аварии, но и не допустить слишком больших убытков.

Совместно с профессором МФТИ Виктором Дозорцевым Александр Венгер разработал математическую модель, описывающую возможные стратегии оператора.

Компьютерное моделирование показало, что в зависимости от характеристик технологического процесса и от точности предсказаний ИИ оптимальными (обеспечивающими достаточно надежное избегание аварий и при этом приносящими минимальный экономический ущерб) будут разные стратегии. Исходя из этого можно определять профессиональную пригодность оператора на основе свойственной ему стратегии.

Надо сказать, что в последние годы проблеме доверия ИИ посвящено большое количество исследований. Однако подавляющее большинство из них относится к ситуациям, в которых риск сводится к нежелательным, но не радикальным потерям. Между тем, на производствах повышенной опасности приходится учитывать риск события, которое приводит к неприемлемому ущербу.

Новизна подхода, предложенного в настоящем исследовании, определяется тем, что выделены индивидуально-психологические характеристики, влияющие на степень доверия оператора аварийным предупреждениям ИИ.

Одна из них – это степень «опасливости» оператора, то есть та вероятность аварии, которую он считает допустимой (достаточно малой). Например, у оператора, для которого допустима вероятность аварии в один процент, «опасливость» ниже, чем у оператора, для которого максимальная допустимая вероятность 0,1 процента. При чрезмерно высокой «опасливости» оператор будет нередко останавливать процесс, ориентируясь на ошибочный аварийный сигнал, что приведет к значительным экономическим потерям. При слишком низкой появляется риск проигнорировать правильный сигнал и спровоцировать катастрофу.

Вторая характеристика – это «склонность к сомнениям», то есть необходимая для принятия решения надежность оценки. Так, у оператора, которому необходима 99-процентная надежность оценки, «склонность к сомнениям» выше, чем у того, для которого достаточно 98-процентной надежности. Чрезмерная «склонность к сомнениям» чревата неоправданной тратой времени и ресурсов на сбор и проверку информации, недостаточная – принятием решений на основе случайных и недостаточно достоверных данных.

В дальнейшем предполагается выявлять индивидуальные стратегии операторов (соотношение указанных двух параметров) с помощью тренажеров, моделирующих технологический процесс. Это позволит проводить профотбор персонала для объектов повышенной опасности. Более отдаленная перспектива – это разработка программ обучения операторов оптимальной стратегии.

Описанное исследование вызвало интерес на VI отраслевой научно-практической конференции «Психофизиологическое обеспечение профессиональной надежности персонала предприятий и организаций атомной отрасли» (Сочи, 25-26.10.2023). В настоящее время начата совместная работа со специалистами по подготовке кадров для атомной отрасли. 

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Университет «Дубна» – это федеральный университет, который обеспечивает технологическое лидерство России, развивая фундаментальные и прикладные исследования в сотрудничестве с ведущими научными и инновационными центрами страны. Университет «Дубна» входит в топ-100 лучших вузов России и признан одним из ведущих технических университетов страны. Университет находится в наукограде Дубна, крупнейшем российском центре по исследованиям в области ядерной физики, химии, IT. Процент трудоустройства выпускников университета по специальности составляет более 85%.
Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK
Вчера, 14:02
Татьяна

Больше 10 лет Curiosity ищет свидетельства обитаемости Марсе. В его арсенале — инструменты для анализа горных пород и минералов, сформированных в эпохи, когда Красная планета была пригодна для органической жизни. И вот новое открытие: на пути к пику Шарп в ударном кратере Гейла марсоход впервые обнаружил кристаллы серы — необходимого строительного элемента белков.

Вчера, 11:31
ПНИПУ

День металлурга в 2024 году россияне отмечают 21 июля. Ученые Пермского Политеха рассказали, какой металл самый распространенный, какой — не утонет в воде, где можно встретить титан, можно ли потрогать обедненный уран, что опаснее — вдохнуть или проглотить ртуть, есть ли ее безопасный аналог и какой элемент не существует в чистом виде.

Позавчера, 19:04
Александр Березин

По уточненным данным, для свода Международной космической станции с орбиты компания Илона Маска использует сильно измененный грузовой корабль, имеющий рекордно большое количество двигателей (больше, чем у любого другого корабля в истории). Однако это не будет Starship, хотя для него такая задача в теории была бы проще.

15 июля
Александр Березин

Авторы нового исследования впервые показали, что круглые провалы в лунной поверхности не просто близки к многокилометровым пещерам на естественном спутнике Земли, но и располагают тоннелями, ведущими в глубину.

16 июля
Александр Березин

Традиционное представление о роли человека в земных экосистемах известно: он нарушает их нормальную работу и снижает биоразнообразие. Однако первая попытка изучить следы пыльцы за последние 12 тысяч лет принесла скорее противоположные данные — как минимум для континентов, полностью расположенных в Северном полушарии.

16 июля
Татьяна

Аппарат «Кассини», работавший на орбите Сатурна с 2004 по 2017 год, детально картировал его крупнейший спутник — Титан. Выяснилось, что ближе к полярным областям на поверхности есть моря и озера с жидкими углеводородами, куда впадают пополняемые атмосферными осадками реки. По мере изучения этой информации у исследователей возникло все больше вопросов. Каков состав жидкости и что определило очертания береговых линий? Воспользовавшись данными радарной съемки, американские ученые уточнили состав морей Кракена, Лигеи и Пунги и описали свойства их поверхностей.

25 июня
Игорь Байдов

Ученые из Китая и Бельгии воссоздали в лаборатории условия, существовавшие на Меркурии четыре миллиарда лет назад, и выяснили, что они были идеальными для образования слоя алмазов, который с течением времени становился лишь толще.

21 июня
Nadya

Земля начала формироваться примерно 4,5 миллиарда лет назад. Чтобы понять, как это происходило в ранние периоды развития нашей планеты, ученые ищут образцы древних горных пород. Одну из таких, возрастом почти 3,5 миллиарда лет, обнаружили рядом с городом Колли в Австралии.

1 июля
Александр Березин

Необычный биологический вид, по оценке авторов новой научной работы, пригоден для заселения четвертой планеты без каких-либо предварительных условий — уже в том виде, в котором он существует сейчас. Поскольку речь идет о фотосинтетическом организме, он способен нарабатывать существенное количество кислорода. Интересно, что кандидат на терраформирование Марса сохранил жизнеспособность после месяца в жидком азоте.

[miniorange_social_login]

Комментарии

Написать комментарий
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно