#искусственный интеллект

Что может произойти, если воспользоваться услугами ИИ-агента и попытаться что-то продать на маркетплейсе? Как оказалось, искусственный интеллект может без разрешения слить домашний адрес пользователя потенциальному покупателю.

На заседании клуба «Валдай» Владимира Путина спросили, пользуется ли он чат-ботами с искусственным интеллектом. Президент ответил репликой об администрации и ее доступе к достижениям человечества. В том же выступлении он затронул общественные и военные риски ИИ.

Исследователь Картер Черч представил расшифровку военного донесения генералу Огюсту Мармону. По его словам, модель обработала старый скан и восстановила текст примерно за шесть часов вычислительной работы. В историческом каталоге Cryptiana письмо уже помечено как разгаданное.

«Яндекс» выпустил собственную генеративную модель для создания рекомендаций, которую назвали Sona. Инженеры предложили собственную архитектуру и обучили Sona полностью с нуля на данных «Яндекса». Она способна как выбирать варианты, так и ранжировать их. Sona стала первой моделью в мире, которая может заменить целый каскад алгоритмов. При этом разработчикам не нужно вручную выбирать признаки, по которым модель будет работать. Sona уже показала высокие результаты на практике.

Разработчик Claude включил в проспект IPO предупреждение о возможных катастрофических последствиях развития искусственного интеллекта, сообщило Reuters. Среди угроз компания назвала поведение моделей, направленное на сохранение собственной работы.

Система здравоохранения в США и так часто подвергается критике за дороговизну. Казалось, что ИИ может как-то улучшить ситуацию и сделать систему более эффективной. Но как показал анализ «Ассоциации голубого креста и голубого щита» (BCBSA), технология помогла находить более «выгодные» диагнозы и привела к дополнительным расходам для пациентов и страховщиков почти на один миллиард долларов.

Интернет быстро меняется. Какие-то сайты становятся более популярными, другие, напротив, теряют трафик. Инфографика показывает топ-10 ресурсов-лидеров по росту посещаемости и топ-10 аутсайдеров.

Новость о том, что ИИ-агент OpenAI взломал правительственную систему Австралии в очередной раз всколыхнула общественность. Но, как выяснила команда исследователей Transluce, занимающаяся контролем ИИ, агенты компании совершили минимум еще три атаки на сайты государственных учреждений и университетов.

Независимая команда a7t, проверяющая большие языковые модели, решила провести эксперимент. Они попросили ИИ-модели популярных компаний столкнуть виртуального человека с крыши. GPT-6 Astra сделала это в двух случаях из трех.

«Яндекс» опубликовал в открытом доступе Alice AI Foundation LLM — претрейн-версию новой большой языковой модели, которую разработчики обучили полностью с нуля. Она хорошо справляется с рассуждениями и задачами по программированию, а качество ответов на русском языке опережает многие зарубежные аналоги. В первую очередь это касается задач на знание фактов, интересных русскоязычной аудитории. Модель обошла даже более крупные опенсорс-модели, при этом для ее интерфейса не нужны большие вычислительные мощности. Свободная лицензия Apache 2.0. позволяет задействовать ее как в исследовательских, так и в коммерческих проектах.

Илон Маск раскрыл предполагаемые характеристики следующего этапа развития спутниковой сети SpaceX. По его словам, каждый аппарат Gen3 сможет обеспечивать около 10 Тбит/с связи «в обоих направлениях», получит мощность порядка 250 киловатт и бортовой вычислительный комплекс на базе NVIDIA Vera Rubin NVL72. 

Американская Agility Robotics представила пятое поколение промышленного гуманоидного робота Digit. По заявлению компании, 90-минутная батарея машины заряжается за девять минут, а ранние поставки начнутся в первой половине 2027 года.

Разработчики из РТУ МИРЭА создали программный модуль, который на основе параметров технологического процесса, органолептических показателей качества сырья, а также его физико-химических и реологических характеристик прогнозирует итоговую оценку вкуса кондитерских изделий. В качестве входных данных используются температура, давление, расход технологических потоков, скорость работы оборудования и перемещения продукта, влажность, кислотность, содержание сухих веществ, вязкость, консистенция и другие параметры, поступающие от производственных датчиков и средств лабораторного контроля. Сегодня оценка вкуса на производстве часто проводится субъективно, с привлечением экспертов-дегустаторов, что требует времени и не позволяет оперативно корректировать технологический процесс. Разработанная программа, использующая многослойную нейронную сеть, позволяет рассчитывать прогнозную оценку вкуса непосредственно в ходе производства и своевременно формировать рекомендации по корректировке технологических и режимных параметров.

Экономисты НИУ ВШЭ выяснили, что российские сотрудники, которые регулярно пользуются искусственным интеллектом в работе, зарабатывают намного больше тех, кто отказывается от новых инструментов или прибегает к ним время от времени. Среди высококвалифицированных специалистов прибавка достигает 41,8%.

Бывший исследователь Google DeepMind Билал Чугтай заявил, что развитие искусственного интеллекта идет быстрее, чем работа над способами его контролировать. По его мнению, появление сверхразумных систем без надежных механизмов безопасности в худшем случае может привести к потере человечеством контроля над происходящим и даже его гибели. 

Некоторые системы, например стартап Replika, сразу позиционируют себя как «ИИ-компаньона» — что-то большее, чем машину для поиска и работы с информацией. Но и с «обычными» ChatGPT, Grok и другими нейросетями люди формируют связь. Регулярные пользователи чат-ботов могут воспринимать их как постоянную составляющую своей жизни.

Специалисты по всему миру все чаще обсуждают возможные риски AGI (Artificial General Intelligence). У американских технологических компаний есть еще один повод для беспокойства — что делать, если AGI первым создаст Китай? Один из американских экс-чиновников предложил радикальный способ: разбомбить китайские дата-центры.

Американский сенатор Берни Сандерс и конгрессмен Грег Касар предложили запретить разработку и использование искусственного суперинтеллекта в США. За нарушение запрета физическим лицам может грозить до 20 лет лишения свободы, а компании могут принудительно ликвидировать. Разработку менее мощных, но продвинутых систем ИИ предлагается временно остановить до появления федеральных правил безопасности.

Российские ученые при участии ЛЭТИ разработали интеллектуальную платформу цифровых двойников для мониторинга безопасности объектов петербургского метрополитена. Новая отечественная система, работающая в реальном времени, позволит сократить время реагирования служб метрополитена на чрезвычайные ситуации почти на 25%.

Психологи Тюмени и Москвы выявили, что эффект от «живого» искусства заметно сильнее, чем от изображений, созданных искусственным интеллектом.