beforeword · Русский перевод beforeword · редакция 2
Адресат: Йошуа Бенжио
Автор: Кирилл Шебетов · beforeword
Куда отправлено: yoshua.bengio@mila.quebec
Дата отправки в материалах: В заголовке только «пятница»; календарная дата не показана.
Часовой пояс отправки не указан.
Статус: отправка показана в папке «Отправленные»; ответ не опубликован.
Получение и прочтение адресатом не установлены опубликованными материалами.
Запись: https://beforeword.xyz/letters/researchers/bengio/#record
Данные записи: https://beforeword.xyz/letters/researchers/bengio/record.json
Английская транскрипция: https://beforeword.xyz/letters/researchers/bengio/en/#letter
Письмо отправлено на английском. Перевод не является отправленным текстом.
Пояснение beforeword и ссылки на публикации находятся отдельно на странице письма.

--- НАЧАЛО ПЕРЕВОДА ---

Тема: Scientist AI: на каком основании запись принимают как наблюдение

Уважаемый профессор Бенжио,

«S утверждал X» сначала появляется как написанная форма. Когда её читают как запись наблюдавшегося акта общения, ей отводят роль, которую требуется обосновать.

Этот переход можно рассмотреть на конкретном материале раздела 3.2.1 работы «Safety from Honesty in a Disinterested AI Predictor». В замечании 3.27 уже признаётся возможность ошибок при учёте контекста.

beforeword предлагает раздельно рассматривать три элемента: что написано; что, согласно выбранному прочтению, зафиксировано в записи; на чём основано использование этого прочтения как предпосылки.

Это в равной мере относится к формулировкам самого подхода. Описание чего-либо как «наблюдавшегося» само является письменной характеристикой; основания для принятия этого описания как наблюдения должны быть указаны явно. Метаданные источника и объяснения этих оснований тоже остаются записями, подлежащими такому же разбору.

Аргумент и примеры:
https://beforeword.xyz/research/no-authority-in-the-output/en/

Пожалуйста, кратко поясните, по какому критерию в вашем подходе такое описание принимается как наблюдение для обучения и как сохранить возможность рассмотреть основания применения этого критерия.

Кирилл Шебетов
beforeword

+

--- КОНЕЦ ПЕРЕВОДА ---