Уведомления
Авторизуйтесь или зарегистрируйтесь, чтобы оценивать материалы, создавать записи и писать комментарии.
Авторизуясь, вы соглашаетесь с правилами пользования сайтом и даете согласие на обработку персональных данных.
В университете «Дубна» узнали, как человек и ИИ могут вместе не допускать аварий
Уровень доверия к ИИ и стратегии принятия решений исследовал профессор кафедры психологии ФСГН Государственного университета «Дубна» Александр Венгер. Совместно с профессором МФТИ Виктором Дозорцевым они разработали математическую модель, описывающую возможные стратегии оператора для устранения аварий на объектах повышенной опасности.
В престижном международном журнале Mathematics опубликована статья доктора психологических наук, профессора кафедры психологии ФСГН Александра Венгера «Доверие рекомендациям искусственного интеллекта при принятии ответственных решений».
Важное направление применения ИИ – это опознание ситуаций, угрожающих аварией на объектах повышенной опасности. Обнаружив такую угрозу, ИИ предлагает оператору изменить режим технологического процесса, в простейшем случае – остановить его. Однако остановка влечет очень большие экономические потери, хотя и несопоставимые с последствиями аварии. Абсолютно точные предсказания невозможны, поэтому предупреждения ИИ носят вероятностный характер. ИИ только дает рекомендации, а решение принимает оператор – человек. При этом он должен практически исключить возможность аварии, но и не допустить слишком больших убытков.
Совместно с профессором МФТИ Виктором Дозорцевым Александр Венгер разработал математическую модель, описывающую возможные стратегии оператора.
Компьютерное моделирование показало, что в зависимости от характеристик технологического процесса и от точности предсказаний ИИ оптимальными (обеспечивающими достаточно надежное избегание аварий и при этом приносящими минимальный экономический ущерб) будут разные стратегии. Исходя из этого можно определять профессиональную пригодность оператора на основе свойственной ему стратегии.
Надо сказать, что в последние годы проблеме доверия ИИ посвящено большое количество исследований. Однако подавляющее большинство из них относится к ситуациям, в которых риск сводится к нежелательным, но не радикальным потерям. Между тем, на производствах повышенной опасности приходится учитывать риск события, которое приводит к неприемлемому ущербу.
Новизна подхода, предложенного в настоящем исследовании, определяется тем, что выделены индивидуально-психологические характеристики, влияющие на степень доверия оператора аварийным предупреждениям ИИ.
Одна из них – это степень «опасливости» оператора, то есть та вероятность аварии, которую он считает допустимой (достаточно малой). Например, у оператора, для которого допустима вероятность аварии в один процент, «опасливость» ниже, чем у оператора, для которого максимальная допустимая вероятность 0,1 процента. При чрезмерно высокой «опасливости» оператор будет нередко останавливать процесс, ориентируясь на ошибочный аварийный сигнал, что приведет к значительным экономическим потерям. При слишком низкой появляется риск проигнорировать правильный сигнал и спровоцировать катастрофу.
Вторая характеристика – это «склонность к сомнениям», то есть необходимая для принятия решения надежность оценки. Так, у оператора, которому необходима 99-процентная надежность оценки, «склонность к сомнениям» выше, чем у того, для которого достаточно 98-процентной надежности. Чрезмерная «склонность к сомнениям» чревата неоправданной тратой времени и ресурсов на сбор и проверку информации, недостаточная – принятием решений на основе случайных и недостаточно достоверных данных.
В дальнейшем предполагается выявлять индивидуальные стратегии операторов (соотношение указанных двух параметров) с помощью тренажеров, моделирующих технологический процесс. Это позволит проводить профотбор персонала для объектов повышенной опасности. Более отдаленная перспектива – это разработка программ обучения операторов оптимальной стратегии.
Описанное исследование вызвало интерес на VI отраслевой научно-практической конференции «Психофизиологическое обеспечение профессиональной надежности персонала предприятий и организаций атомной отрасли» (Сочи, 25-26.10.2023). В настоящее время начата совместная работа со специалистами по подготовке кадров для атомной отрасли.
Финансовое благополучие человека зависит от разных факторов. Новое крупное исследование на примере норвежских жителей показало, как изменения в структуре семьи и смена поколений сказываются на благосостоянии людей.
Инженерная компания из Дубая LEAP71 сообщила, что спроектированный нейронной сетью Noyron и напечатанный в 3D-формате из меди ракетный двигатель успешно прошел первые испытания на полигоне в Великобритании. Возможно ли это — рассказал эксперт МАИ, старший преподаватель кафедры «Космические системы и ракетостроение» Иван Рудой.
Сезонные миграции — опасное время в жизни перелетной птицы. Среди угроз — нападения хищников, которые, как считают биологи, заставляют пернатых держать высоту в несколько километров. Однако авторы новой статьи показали, что такая стратегия помогает не всегда. С помощью GPS-трекера, прикрепленного к лапке тулеса Pluvialis squatarola, они смогли реконструировать последние минуты его жизни и узнать обстоятельства гибели птицы.
Среди 95 лун Юпитера особый интерес у ученых вызывает Европа — мир, под ледяной оболочкой которого скрыт потенциально обитаемый океан. Поиском признаков жизни на спутнике займется космический аппарат Europa Clipper, стартовавший из Космического центра имени Кеннеди в понедельник, 14 октября 2024-го. Аппарат, оснащенный инновационными инструментами для планетных исследований, прибудет к месту назначения в 2030 году.
Финансовое благополучие человека зависит от разных факторов. Новое крупное исследование на примере норвежских жителей показало, как изменения в структуре семьи и смена поколений сказываются на благосостоянии людей.
В начале 2024 года 45 компаний и организаций из разных секторов экономики Германии на полгода ввели четырехдневную рабочую неделю для сотрудников с сохранением полной зарплаты. Спустя шесть месяцев, в октябре, организаторы пилотного проекта подвели его первые итоги. Они оказались настолько успешными, что более 70% фирм-участниц заявили о желании продлить эксперимент либо окончательно перейти на четырехдневку.
Полторы тысячи лет назад климат в Северном полушарии резко изменился. В Дании так похолодало, что там стало невозможно заниматься сельским хозяйством. Авторы нового исследования считают, что именно этот период был прообразом Фимбульвинтера — зимы, предшествующей Рагнарёку.
Сейчас Япония привлекает людей со всего мира, но так было не всегда. На протяжение десяти тысяч лет архипелаг оставался изолированным от остального мира, пока туда не начали прибывать первые «мигранты» с континента. Это показал генетический анализ останков человека эпохи Яёй.
В 1898 году два льва терроризировали лагерь строителей моста через реку Цаво в Кении. Хищники наведывались ночами и похищали людей из палаток. Погибли 28 человек. Людоедов застрелил британский военный Джон Генри Паттерсон, позже он передал останки в Музей естественной истории имени Филда в Чикаго. Ученые из США и Кении исследовали черепа хищников, извлекли ДНК из сохранившихся в зубах волосков и выяснили видовую принадлежность жертв.
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
ПонятноИз-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
ПонятноНаши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
ПонятноМы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
ПонятноМы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.
Понятно
Комментарии