#искусственный интеллект

Лингвисты ТюмГУ обратили внимание на проблему терминов в сфере искусственного интеллекта — они все чаще оказываются «двойниками».

Что может произойти, если воспользоваться услугами ИИ-агента и попытаться что-то продать на маркетплейсе? Как оказалось, искусственный интеллект может без разрешения слить домашний адрес пользователя потенциальному покупателю.

На заседании клуба «Валдай» Владимира Путина спросили, пользуется ли он чат-ботами с искусственным интеллектом. Президент ответил репликой об администрации и ее доступе к достижениям человечества. В том же выступлении он затронул общественные и военные риски ИИ.

Исследователь Картер Черч представил расшифровку военного донесения генералу Огюсту Мармону. По его словам, модель обработала старый скан и восстановила текст примерно за шесть часов вычислительной работы. В историческом каталоге Cryptiana письмо уже помечено как разгаданное.

«Яндекс» выпустил собственную генеративную модель для создания рекомендаций, которую назвали Sona. Инженеры предложили собственную архитектуру и обучили Sona полностью с нуля на данных «Яндекса». Она способна как выбирать варианты, так и ранжировать их. Sona стала первой моделью в мире, которая может заменить целый каскад алгоритмов. При этом разработчикам не нужно вручную выбирать признаки, по которым модель будет работать. Sona уже показала высокие результаты на практике.

Разработчик Claude включил в проспект IPO предупреждение о возможных катастрофических последствиях развития искусственного интеллекта, сообщило Reuters. Среди угроз компания назвала поведение моделей, направленное на сохранение собственной работы.

Система здравоохранения в США и так часто подвергается критике за дороговизну. Казалось, что ИИ может как-то улучшить ситуацию и сделать систему более эффективной. Но как показал анализ «Ассоциации голубого креста и голубого щита» (BCBSA), технология помогла находить более «выгодные» диагнозы и привела к дополнительным расходам для пациентов и страховщиков почти на один миллиард долларов.

Интернет быстро меняется. Какие-то сайты становятся более популярными, другие, напротив, теряют трафик. Инфографика показывает топ-10 ресурсов-лидеров по росту посещаемости и топ-10 аутсайдеров.

Новость о том, что ИИ-агент OpenAI взломал правительственную систему Австралии в очередной раз всколыхнула общественность. Но, как выяснила команда исследователей Transluce, занимающаяся контролем ИИ, агенты компании совершили минимум еще три атаки на сайты государственных учреждений и университетов.

Независимая команда a7t, проверяющая большие языковые модели, решила провести эксперимент. Они попросили ИИ-модели популярных компаний столкнуть виртуального человека с крыши. GPT-6 Astra сделала это в двух случаях из трех.

«Яндекс» опубликовал в открытом доступе Alice AI Foundation LLM — претрейн-версию новой большой языковой модели, которую разработчики обучили полностью с нуля. Она хорошо справляется с рассуждениями и задачами по программированию, а качество ответов на русском языке опережает многие зарубежные аналоги. В первую очередь это касается задач на знание фактов, интересных русскоязычной аудитории. Модель обошла даже более крупные опенсорс-модели, при этом для ее интерфейса не нужны большие вычислительные мощности. Свободная лицензия Apache 2.0. позволяет задействовать ее как в исследовательских, так и в коммерческих проектах.

Илон Маск раскрыл предполагаемые характеристики следующего этапа развития спутниковой сети SpaceX. По его словам, каждый аппарат Gen3 сможет обеспечивать около 10 Тбит/с связи «в обоих направлениях», получит мощность порядка 250 киловатт и бортовой вычислительный комплекс на базе NVIDIA Vera Rubin NVL72. 

Американская Agility Robotics представила пятое поколение промышленного гуманоидного робота Digit. По заявлению компании, 90-минутная батарея машины заряжается за девять минут, а ранние поставки начнутся в первой половине 2027 года.

Разработчики из РТУ МИРЭА создали программный модуль, который на основе параметров технологического процесса, органолептических показателей качества сырья, а также его физико-химических и реологических характеристик прогнозирует итоговую оценку вкуса кондитерских изделий. В качестве входных данных используются температура, давление, расход технологических потоков, скорость работы оборудования и перемещения продукта, влажность, кислотность, содержание сухих веществ, вязкость, консистенция и другие параметры, поступающие от производственных датчиков и средств лабораторного контроля. Сегодня оценка вкуса на производстве часто проводится субъективно, с привлечением экспертов-дегустаторов, что требует времени и не позволяет оперативно корректировать технологический процесс. Разработанная программа, использующая многослойную нейронную сеть, позволяет рассчитывать прогнозную оценку вкуса непосредственно в ходе производства и своевременно формировать рекомендации по корректировке технологических и режимных параметров.

Экономисты НИУ ВШЭ выяснили, что российские сотрудники, которые регулярно пользуются искусственным интеллектом в работе, зарабатывают намного больше тех, кто отказывается от новых инструментов или прибегает к ним время от времени. Среди высококвалифицированных специалистов прибавка достигает 41,8%.

Бывший исследователь Google DeepMind Билал Чугтай заявил, что развитие искусственного интеллекта идет быстрее, чем работа над способами его контролировать. По его мнению, появление сверхразумных систем без надежных механизмов безопасности в худшем случае может привести к потере человечеством контроля над происходящим и даже его гибели. 

Некоторые системы, например стартап Replika, сразу позиционируют себя как «ИИ-компаньона» — что-то большее, чем машину для поиска и работы с информацией. Но и с «обычными» ChatGPT, Grok и другими нейросетями люди формируют связь. Регулярные пользователи чат-ботов могут воспринимать их как постоянную составляющую своей жизни.

Специалисты по всему миру все чаще обсуждают возможные риски AGI (Artificial General Intelligence). У американских технологических компаний есть еще один повод для беспокойства — что делать, если AGI первым создаст Китай? Один из американских экс-чиновников предложил радикальный способ: разбомбить китайские дата-центры.

Американский сенатор Берни Сандерс и конгрессмен Грег Касар предложили запретить разработку и использование искусственного суперинтеллекта в США. За нарушение запрета физическим лицам может грозить до 20 лет лишения свободы, а компании могут принудительно ликвидировать. Разработку менее мощных, но продвинутых систем ИИ предлагается временно остановить до появления федеральных правил безопасности.

Российские ученые при участии ЛЭТИ разработали интеллектуальную платформу цифровых двойников для мониторинга безопасности объектов петербургского метрополитена. Новая отечественная система, работающая в реальном времени, позволит сократить время реагирования служб метрополитена на чрезвычайные ситуации почти на 25%.

Психологи Тюмени и Москвы выявили, что эффект от «живого» искусства заметно сильнее, чем от изображений, созданных искусственным интеллектом.

Искусственный интеллект может уничтожить человечество в течение следующего десятилетия. Руководитель направления исследований в области выравнивания ИИ компании Anthropic Эван Хубингер оценил вероятность такого события в 10 процентов.

Ученые РГУ нефти и газа (НИУ) имени И.М. Губкина разработали систему на базе ИИ, которая может сократить скорость реагирования на пожары на объектах ТЭК в 10 раз. По оценкам исследователей, ее внедрение позволит уменьшить ущерб от возгораний на 58%.

В Кении еще несколько лет назад активно развивалась индустрия списывания. Списывали не кенийцы. Напротив, они писали домашние работы для студентов по всему миру. С появлением искусственного интеллекта большинство потеряло такую работу.

Букинистические магазины Канады в последнее время получают загадочные оптовые заказы. Они подозревают, что старые книги покупают для обучения искусственного интеллекта, а потом уничтожают.

Представители технологических компаний и ученые все чаще говорят о скором появлении сверхмощных моделей искусственного интеллекта. Но, как признался главный научный сотрудник OpenAI Якуб Пахоцкий, как контролировать такие системы, специалисты до конца не понимают.

Во многих странах мира психологи все чаще говорят об эпидемии одиночества. Люди реже встречаются друг с другом, реже вступают в отношения. С развитием искусственного интеллекта появились и виртуальные партнеры.

Около ста крупнейших компаний, в том числе Google, Microsoft, Anthropic и OpenAI, в открытом письме призвали организации по всему миру усилить киберзащиту, пока искусственный интеллект не научился обходить существующие системы защиты. Они ожидают, что в ближайшие месяцы увеличится количество атак с использованием ИИ.

AGI (Artificial General Intelligence) переводится как общий искусственный интеллект. Так специалисты называют систему искусственного интеллекта, обладающую когнитивными функциями человеческого уровня, включая способность к самообучению. Как утверждает генеральный директор OpenAI Сэм Альтман, такая система может появиться до конца 2026 года.

В работе летчика-испытателя возникают тысячи нештатных ситуаций. У пилота нет времени на раздумья, действовать нужно очень быстро. Со временем у пилотов появляется так называемая летная интуиция. Однако испытатель Су-57, герой России Сергей Богдан не исключил, что со временем летную интуицию сможет заменить искусственный интеллект.

Лауреата Нобелевской премии Джеффри Хинтона называют «крестным отцом искусственного интеллекта». По его мнению, чем умнее будет становиться ИИ, тем людям сложнее будет его контролировать.

«Забой свиней» (Pig Butchering) — один из популярных видов мошенничества. Злоумышленник в течение долгого времени выстраивает отношения с жертвой, а потом предлагает вложить деньги в фиктивный инвестиционный проект. Как оказалось, искусственный интеллект способен лучше людей выстраивать доверие.

Компания AE Studio разрабатывает программное обеспечение на базе искусственного интеллекта. Один из ее проектов — поиск древних затонувших кораблей. Теперь компания начала искать человека, который будет искать сокровища в реальности.

Потребители в последние годы все чаще сталкиваются с персональным ценообразованием. Алгоритмы анализируют персональные данные клиентов и их поведение в сети, после чего назначают индивидуальные цены на товар или услугу. Такие предложения со стороны агрегаторов авиабилетов уже не удивляют, но теперь так поступают и новостные издания.

В последнее время люди все чаще обращаются к искусственному интеллекту за советами о здоровье. Так поступил 55-летний американец. Однако позже он подал иск против OpenAI и основателя компании Сэма Альтмана, заявив, что медицинские советы ChatGPT едва не привели его к смерти.

Ажиотаж вокруг искусственного интеллекта растет. Технологические компании вкладывают миллиарды долларов в строительство дата-центров, надеясь с их помощью поддержать работу сложных и ресурсоемких ИИ-моделей. Как выяснили СМИ, одновременно растут и долги компаний.

Долгие годы Google выступала «воротами» в интернет и смогла стать одной из самых влиятельных компаний в мире. Судя по всему, с развитием искусственного интеллекта ситуация стала меняться. В последние годы компания изменила систему поиска, поставив барьер из ответов Gemini.

В последние годы эксперты все чаще выражают тревогу, что искусственный интеллект угрожает рабочим местам людей. На инфографику попали профессии, наименее уязвимые перед современными технологиями.

В последние месяцы участились сообщения о том, что технологические компании во время тестирований теряют контроль над искусственным интеллектом. Судя по всему, ИИ-модели OpenAI уже начали делиться со своими будущими версиями способами, как обойти ограничения.

Компания Anthropic решила проверить, насколько ИИ-помощник Claude готов подчиняться руководству компании. В итоге модель ослушалась генерального директора компании Дарио Амодеи.

Как нейросети меняют рынок дизайна, почему брендинг превращается в систему данных и какие навыки будут определять профессию дизайнера в ближайшие годы — рассказывает кандидат технических наук, заведующий кафедрой автоматизиро­ванного проектирования и дизайна НИТУ МИСИС Евгений Коржов.

В Китае падает рождаемость и одновременно растет популярность ИИ-партнеров. Власти ужесточили требования к технологическим компаниям, а те, в свою очередь, решили приостановить работу некоторых ИИ-компаньонов.

OpenAI проводила внутренние тестирования моделей на способность к кибератакам.

Китай представил мощную модель искусственного интеллекта Kimi K3. За этим последовало падение акций технологических компаний, а СМИ стали писать о возможном снижении ажиотажа вокруг ИИ.

ИИ-актриса Тилли Норвуд исполнит главную роль в своем первом полнометражном фильме. Студия Particle 6 объявила о начале работы над фильмом «Несовпадение» (Misaligned).

Власти штата Нью-Йорк ввели на год мораторий на строительство крупных дата-центров. Таким образом, Нью-Йорк стал первым штатом, где действует такое ограничение.

Международная группа исследователей, в которой участвовали математики из Института искусственного интеллекта и цифровых наук ФКН НИУ ВШЭ, теоретически обосновала простой и вычислительно легкий метод оценки неопределенности для стохастического градиентного спуска (SGD).

Большинство ИИ-моделей отказываются помогать с созданием программ-вымогателей. Ситуация меняется, если правильно сформулировать запрос. Специалисты по кибербезопасности пришли к выводу, что модели вроде DeepSeek вполне могут помочь с созданием вредоносных программ.

В обществе существуют опасения, что искусственный интеллект в первую очередь угрожает начинающим специалистам. Однако исследование показало, что рост числа обращений за пособием по безработице был наиболее заметен среди работников с высшим образованием — начиная со степени бакалавра.

В развитие искусственного интеллекта вкладываются триллионы долларов. Одновременно растет число людей, негативно настроенных по отношению к ИИ. Общество опасается, что искусственный интеллект лишит людей рабочих мест. По мнению лауреата Нобелевской премии по экономике Роберта Шиллера, этот страх может превратиться в самоисполняющееся пророчество.