Создана библиотека изображений, недоступных для искусственного интеллекта
3 минуты
Сергей Васильев

Создана библиотека изображений, недоступных для искусственного интеллекта

Ученые из Беркли собрали десятки тысяч фотографий, с распознаванием которых нейросети справиться не могут.

ai0
©Wikipedia

Почти любой проект по разработке искусственного интеллекта для распознавания образов и машинного зрения требует обширной базы данных, в которой содержатся уже распознанные и описанные людьми изображения: на них нейросети обучаются и совершенствуются. Крупнейшая из таких открытых библиотек ImageNet включает более 14 миллионов аннотированных изображений, разделенных по более чем 20 тысячам категорий.

 

Недавно их список пополнился еще одной — группой ImageNet-A, содержащей фотографии, на которых ошибаются даже самые совершенные алгоритмы ИИ. Новый датасет исследователи из Калифорнийского университета в Беркли представили в статье, опубликованной в онлайн-библиотеке препринтов ArXiv.Org. По сообщению авторов, набор содержит около 7500 обычных снимков, при распознавании которых нейросети ошибаются в 98 случаях из 100.

 

Некоторые примеры ImageNet-A: черным показаны правильные ответы, красным — результаты распознавания популярными алгоритмами / ©Hendrycks et al., 2019

 

В самом деле, по мере все большего распространения систем машинного зрения все большую опасность приобретают технологии нарушения их работы. Показано, что даже сравнительно небольшой — с точки зрения наших глаз — манипуляцией с картинкой можно сбить с толку даже самый совершенный ИИ, организовав «состязательную атаку» (adversarial attack) на его алгоритмы.

 

Однако набор ImageNet-A показывает, что подобные изображения могут получаться и без чьего-либо запланированного вмешательства, случайным образом — сами по себе. Следовательно, любое машинное зрение, которому мы собираемся доверить человеческие жизни, должно справляться с появлением таких образов. Именно для этого и появился новый датасет.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
12 часов назад
4 минуты
Денис Гордеев

Прототип под кодовым обозначением SN4 был уничтожен через несколько секунд после запуска двигателя.

Позавчера, 20:31
7 минут
Мария Азарова

В штате Табаско нашли огромное майяское сооружение Агуада-Феникс, которое было построено как минимум на 1000 лет раньше, чем знаменитая пирамида Солнца в Теотиуакане.

12 часов назад
7 минут
Александр Березин

За май 2020 года в городе на Неве умерло на треть больше человек, чем в мае 2019-го. Избыточная смертность в девять раз превысила показатель летальных исходов от коронавируса. Наиболее вероятная причина — неполный учет смертей от последнего. Данные по Северной столице указывают на то, что смертность в Москве в этом мае также будет необычайно высокой.

29 мая
10 минут
София Жаботинская

Таковы итоги первой фазы клинических испытаний, проведенных исследователями из Китая. Ученые уже развернули вторую фазу тестов, результаты которой станут известны через шесть месяцев.

30 мая
33 минуты
Александр Березин

Александр Мясников, глава Информационного центра по мониторингу ситуации с коронавирусом, заявил, что «вирус как бы фильтруется через наши иммунные силы, каждый раз, попадая в очередной организм, дальше идет немного ослабленный». В связи с этим он ожидает отступления волны заражения «самой по себе». Однако целый ряд научных исследований — да и опыт пандемии «испанки» — указывают на другой, менее благостный сценарий. Попробуем разобраться, что считает наука по поводу некоторого спада в числе зараженных в России: почему он идет и когда ситуация может развернуться вспять.

2 июня
5 минут
София Жаботинская

Ученые представили глобальный обзор по эффективности наиболее простых методов защиты от вируса: тканевых масок, защитных очков и соблюдения дистанции между людьми.

14 мая
6 минут
София Жаботинская

Две-три чашки кофе в день обеспечивают уменьшение как подкожного, так и висцерального жира у женщин — по сравнению с теми, кто пьет кофе реже или не пьет совсем.

18 мая
47 минут
Александр Березин

«Новая газета» обратила внимание, что в статистике столицы — эпицентра коронавирусной эпидемии в России — в апреле 2020 года виден аномальный всплеск смертей. Он в разы превышает официальные цифры гибели людей от Covid-19. Власти опять скрывают? Naked Science внимательно присмотрелся к ситуации и обнаружил, что дело совсем в другом факторе, никак не связанном с новой болезнью. Рассказываем, о чем речь.

12 мая
9 минут
Sergei Sobol

Сейчас, когда многие вокруг задумываются, а не попробовать ли что-то новое и не сменить ли профессию, программирование точно одно из тех направлений, к которому стоит присмотреться. Может, вы об этом уже думали?

[miniorange_social_login]

Комментарии

Написать комментарий

Подтвердить?
Лучшие материалы
Предстоящие мероприятия
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: