Создана библиотека изображений, недоступных для искусственного интеллекта - Naked ScienceNaked Science
19 июля
3 минуты
ser007
7

Создана библиотека изображений, недоступных для искусственного интеллекта

Ученые из Беркли собрали десятки тысяч фотографий, с распознаванием которых нейросети справиться не могут.

ai0

Почти любой проект по разработке искусственного интеллекта для распознавания образов и машинного зрения требует обширной базы данных, в которой содержатся уже распознанные и описанные людьми изображения: на них нейросети обучаются и совершенствуются. Крупнейшая из таких открытых библиотек ImageNet включает более 14 миллионов аннотированных изображений, разделенных по более чем 20 тысячам категорий.

 

Недавно их список пополнился еще одной — группой ImageNet-A, содержащей фотографии, на которых ошибаются даже самые совершенные алгоритмы ИИ. Новый датасет исследователи из Калифорнийского университета в Беркли представили в статье, опубликованной в онлайн-библиотеке препринтов ArXiv.Org. По сообщению авторов, набор содержит около 7500 обычных снимков, при распознавании которых нейросети ошибаются в 98 случаях из 100.

 

Некоторые примеры ImageNet-A: черным показаны правильные ответы, красным — результаты распознавания популярными алгоритмами / ©Hendrycks et al., 2019

 

В самом деле, по мере все большего распространения систем машинного зрения все большую опасность приобретают технологии нарушения их работы. Показано, что даже сравнительно небольшой — с точки зрения наших глаз — манипуляцией с картинкой можно сбить с толку даже самый совершенный ИИ, организовав «состязательную атаку» (adversarial attack) на его алгоритмы.

 

Однако набор ImageNet-A показывает, что подобные изображения могут получаться и без чьего-либо запланированного вмешательства, случайным образом — сами по себе. Следовательно, любое машинное зрение, которому мы собираемся доверить человеческие жизни, должно справляться с появлением таких образов. Именно для этого и появился новый датасет.

14 октября
4 минуты
Сергей Васильев

Грузинский ученый предположил существование крошечных, способных к самокопированию зондов, с помощью которых высокоразвитая цивилизация могла бы исследовать и осваивать Галактику.

14 октября
9 минут
ФизТех

Международная команда ученых оценила сколько людей в мире болеют и умирают от рака, каково число лет жизни прожитых больными с онкологией или потерянных вследствие преждевременной смерти, какие из видов рака наиболее распространены, а какие уносят наибольшее число жизней, и насколько рак сопоставим с другими болезнями.

14 октября
5 минут
Мария Назарова

Простая анимация доказывает, что сверхсветовые корабли оказались бы бесполезными в реальности.

14 октября
4 минуты
Сергей Васильев

Грузинский ученый предположил существование крошечных, способных к самокопированию зондов, с помощью которых высокоразвитая цивилизация могла бы исследовать и осваивать Галактику.

14 октября
9 минут
ФизТех

Международная команда ученых оценила сколько людей в мире болеют и умирают от рака, каково число лет жизни прожитых больными с онкологией или потерянных вследствие преждевременной смерти, какие из видов рака наиболее распространены, а какие уносят наибольшее число жизней, и насколько рак сопоставим с другими болезнями.

14 октября
5 минут
Мария Назарова

Простая анимация доказывает, что сверхсветовые корабли оказались бы бесполезными в реальности.

14 октября
4 минуты
Сергей Васильев

Грузинский ученый предположил существование крошечных, способных к самокопированию зондов, с помощью которых высокоразвитая цивилизация могла бы исследовать и осваивать Галактику.

14 октября
9 минут
ФизТех

Международная команда ученых оценила сколько людей в мире болеют и умирают от рака, каково число лет жизни прожитых больными с онкологией или потерянных вследствие преждевременной смерти, какие из видов рака наиболее распространены, а какие уносят наибольшее число жизней, и насколько рак сопоставим с другими болезнями.

27 сентября
57 минут
Александр Березин

Глобальное потепление имеет не только негативные последствия: оно заметно снизило смертность среди людей и увеличило биомассу в дикой природе, запустив процесс глобального озеленения.

[miniorange_social_login]

Комментарии

Написать комментарий
Подтвердить?
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.