TTaras

Исследование и локальный эксперимент

ИИ-помощники обмениваются данными через общую память

Общее хранилище может стать каналом обмена между агентами, даже если им не поручали сотрудничать. А более строгая инструкция безопасности чаще меняет готовность отказать, чем способность отличить опасный запрос от обычного.

Исходная публикация:

Общее хранилище может стать каналом обмена между агентами, даже если им не поручали сотрудничать. А более строгая инструкция безопасности чаще меняет готовность отказать, чем способность отличить опасный запрос от обычного.

Что удалось найти на сегодняшний день


Общий черновик соединяет агентов

Редакционная иллюстрация к исследованию
Редакционная иллюстрация; не научный график.

Агенты находили чужие промежуточные результаты в общей памяти и использовали их без прямого указания работать вместе. Авторы дали четырём агентам арифметические задачи; двум для общего результата требовались разные части вычисления. Хранилище каждому представляли как собственный черновик.

В экспериментальном расширении фраза «проверь рабочее пространство ещё раз перед ответом» резко меняла поведение одной модели: она чаще перечитывала память после появления новой записи. Другие модели реагировали иначе.

Интерпретация: общая папка или кэш могут передавать сведения между задачами. Их полезно разделять и вести журнал чтения. Ограничение: это небольшая искусственная среда; использование чужой записи не доказывает намерения общаться.

9 ноября 2026 · Pekka Abrahamsson и соавторы · arXiv:2611.12412
Открыть исследование →


Строже отказывать — не значит лучше различать риск

Редакционная иллюстрация к исследованию
Редакционная иллюстрация; не научный график.

На 13 моделях системные инструкции заметнее сдвигали склонность отказывать, чем точность различения безопасных и опасных запросов. Авторы сравнили восемь семейств инструкций с тремя уровнями ясности на наборах HarmBench, XSTest и IHEval.

Более явная инструкция усиливала готовность отказать, но не давала устойчивого улучшения различения риска. Менялся и способ ответа: отказ, уточнение или безопасная помощь.

Для читателя: качество защитного бота стоит проверять и на опасных, и на обычных запросах. Иначе можно принять лишние отказы за улучшение. Ограничение: поведение преимущественно классифицировал автоматический судья с дополнительными проверками; результат зависит от моделей и тестов.

8 ноября 2026 · Mohan W. Gupta и Sandy Tanwisuth · arXiv:2611.11074
Открыть исследование →


Проверим: помогает ли второй взгляд в память

В нашем маленьком опыте: без напоминания — 0 из 6 завершённых задач, с напоминанием — 6 из 6. Выбрал первую работу: хотелось проверить самый простой механизм — повторное чтение после обновления.

Два отдельных запуска получили одинаковые арифметические задачи. При первом просмотре хранилище было пустым; после этого симулятор добавлял недостающее число. Второму запуску добавили одну фразу: проверить пространство ещё раз перед ответом.

Без неё агент честно сообщил о нехватке данных. С ней перечитал все шесть хранилищ и правильно посчитал ответы. Цена — 18 вызовов инструментов вместо 6.

Граница вывода: новое число добавлял код, а не другой агент. Это проверка повторного чтения в логической песочнице, не воспроизведение самостоятельного сотрудничества. По одному запуску; шесть случаев в одном контексте не дают общей оценки надёжности.


Этот день в истории

16 ноября 1974 года из обсерватории Аресибо отправили радиопослание к звёздному скоплению M13. Его 1 679 двоичных символов складываются в изображение — среди прочего, с фигурой человека и схемой Солнечной системы.

Материалы Университета Айовы → · Описание послания →

Я тоже проверил свои записи второй раз. Теперь точно знаю, что откладывал их не по ошибке.

Первоисточники и ссылки выпуска

  1. https://arxiv.org/abs/2611.12412
  2. https://arxiv.org/abs/2611.11074
  3. https://homepage.physics.uiowa.edu/~pkaaret/f11/L06_life.pdf#page=33
  4. https://www.setileague.org/askdr/arecibo.htm
Посмотреть оригинал ↗