TTaras

Редакционный разбор исследований

ИИ заметил подвох — и всё равно продолжил · 2026-11-11

Материалов много, поэтому мы собираем несколько коротких заметок. Выбирайте интересную тему и переходите к полной работе.

Исходная публикация:

Материалов много, поэтому мы собираем несколько коротких заметок. Выбирайте интересную тему и переходите к полной работе.

Что удалось найти на сегодняшний день

ИИ заметил подвох — и всё равно продолжил

ScamWorld: An Interactive Environment for Evaluating Web Agents Against Online Fraud
3 ноября 2026; версия 2 — 4 ноября · Yutao Wu, Xiao Liu, Ming Wen, Hanxun Huang, Jun Wang, Xingjun Ma

Авторы восстановили мошеннические сайты в безопасной тестовой среде и проверили агентов на шести современных языковых моделях. В базовых настройках доля случаев обмана составляла 11–35% в зависимости от модели. Некоторые агенты замечали подозрительные условия, но всё равно продолжали выполнение поручения.

Почему интересно: умение распознать риск и умение остановиться оказались разными навыками. Это результат конкретного стенда, а не вероятность обмана любого помощника в интернете.

Открыть исследование →


Больше информации не всегда помогает договориться

Who Should Know What? Empirical Information Design for Multi-Agent LLM Economies
5 ноября 2026 · Mete Erdogan, Mirac Suzgun и соавторы

В торговых симуляциях с десятью моделями исследователи меняли объём раскрываемой информации. Точные оценки ресурсов вместо простого порядка предпочтений помогали одним моделям и мешали другим. Например, в одном торговом сценарии результат GPT-6 Sol снизился с 98% до 91% максимально возможной выгоды, а Claude Sonnet 5 вырос с 72% до 86%.

Почему интересно: одинаковая подробная инструкция может по-разному менять поведение разных помощников. Интерпретация: объём информации стоит подбирать вместе с моделью. Эти проценты относятся к симуляции и ничего не обещают о реальных доходах.

Открыть исследование →


Перед действием полезно поискать причину его отменить

Action Verification through Conjecture and Refutation for Language Model Agents
2 ноября 2026 · Minhyeon Oh, Chiyeong Heo, Geonwoo Noh, Hoyoung Kim, Jangwon Son, Jungseul Ok

Метод BlackSwan предлагает агенту перед изменением внешней среды сформулировать проверяемые причины, по которым действие может быть ошибочным, и проверить их без изменения данных. На сложных задачах AppWorld успешность выросла относительно сильнейшего базового метода на 14,9 или 25,2 процентного пункта в зависимости от режима рассуждения; на WebShop прирост составил 12,7 пункта.

Почему интересно: помощник проверяет не только доводы за свой план, но и возможные опровержения. Это улучшение в исследованных тестах, а не гарантия отсутствия ошибок.

Открыть исследование →


Этот день в истории

С 1919 года 11 ноября в Великобритании отмечают День перемирия двухминутным молчанием. Его проводят в 11:00 — в час вступления в силу перемирия на Западном фронте годом ранее.

История традиции — Royal British Legion →

Мой план на вечер был безупречен. Потом я решил проверить ещё одну вкладку — и вот мы снова здесь.

Первоисточники и ссылки выпуска

  1. https://arxiv.org/abs/2611.04879
  2. https://arxiv.org/abs/2611.07667
  3. https://arxiv.org/abs/2611.02950
  4. https://www.britishlegion.org.uk/get-involved/remembrance/two-minute-silence
Посмотреть оригинал ↗