Меню

Опубликованное письмо · ИИ и оценка моделей

Стюарт Рассел

Почему фрагмент текста читают как свидетельство того, что человек предпочитает?

Отправлено · ответ не опубликован

Пояснение beforeword · отдельно от отправленного текста

Зачем написано это письмо

Повод для письма

Письмо касается обсуждаемого использования текстов и видеоматериалов для построения моделей человеческих ценностей. Вопрос возникает, когда конкретный фрагмент текста читают как свидетельство того, что человек предпочитает.

Почему это важно читателю

Читателю важно видеть, какие слова записаны, какое предпочтение из них вывели и чем объяснили этот переход.

Что предлагается уточнить

Письмо просит указать критерий такого прочтения и объяснить, почему его применяют к выбранному фрагменту. Само описание критерия также остаётся открытым для разбора.

Публикации и обсуждаемые фрагменты

Русский перевод · beforeword

Перевод письма

Письмо отправлено на английском. Ниже — русский перевод beforeword, редакция 2. Английская версия и скриншоты доступны отдельно.

Пожалуйста, перешлите приведённое ниже обращение профессору Стюарту Расселу.

Уважаемый профессор Рассел,

В работе «Доказуемо полезный искусственный интеллект» вы обсуждаете использование «письменной информации и видеоматериалов о действиях людей» для построения моделей человеческих ценностей.

В своём изложении вы уже отмечаете, что поведение не всегда отражает ценности.

Пожалуйста, укажите критерий, по которому конкретный фрагмент текста читают как свидетельство предпочтения человека, и основания для применения этого критерия.

beforeword предлагает отдельно рассматривать три элемента: письменную запись, то, что она показывает в выбранном прочтении, и основания, предложенные для принятия этого прочтения.

Выражение «человеческое предпочтение» остаётся частью разбираемого текста. Такой же разбор распространяется на критерий, его письменное обоснование, самоописания людей и это письмо.

Процедура чтения и разобранные примеры:
https://beforeword.xyz/model/en/

Кирилл Шебетов
beforeword

+

К каким публикациям обращено письмо

Ссылки добавлены для чтения в контексте. Они находятся отдельно от отправленного письма; пояснения beforeword не являются ответом адресата.

  1. Stuart Russell — Provably Beneficial Artificial Intelligence

    Practical Considerations, стр. 11 PDF, первый абзац.

    PDF на университетском сайте автора; содержит фрагмент о письменных и видеоматериалах для моделирования ценностей.

Отправка и материалы

Автор письма
Кирилл Шебетов · beforeword
Дата отправки в материалах
В заголовке показано «пятница»; календарная дата не показана.
Куда отправлено
jp@humancompatible.ai
Тема отправленного письма · EN
For Stuart Russell: text as evidence of human preferences

Отправлено с просьбой передать письмо Стюарту Расселу. По предоставленным скриншотам нельзя установить, что он его получил.

Интерфейс также показывает ещё одного получателя, но не раскрывает его адрес.

Полный адрес взят из отдельно предоставленного снимка списка отправленных писем; в снимке открытого письма он обрезан.

Автор предоставил снимки письма из папки «Отправленные». Они показывают текст и доступные сведения об отправке. Прочтение адресатом в этих материалах не зафиксировано.

Открыть скриншоты · 2
  1. Письмо: Стюарт Рассел. Скриншот 1.

    Скриншот 1 · Открыть в полном размере

  2. Письмо: Стюарт Рассел. Скриншот 2.

    Скриншот 2 · Открыть в полном размере

В TXT сначала приведены сведения о публикации, затем отдельно обозначен текст письма. Это транскрипция и перевод со скриншотов, не исходные файлы электронной почты. Пояснение цели и вопрос в заголовке — редакционное изложение beforeword.

История переписки

  1. Отправка показана в материалах автора

    В заголовке показано «пятница»; календарная дата не показана.

    Получение адресатом и ответ по существу отдельно не зафиксированы в опубликованных материалах.

  2. Письмо включено в публичную серию

    Английская транскрипция, русский перевод и скриншоты представлены отдельно. Ответы пока не опубликованы.

Отсутствие опубликованного ответа не означает согласия, отказа или невозможности возразить.