Пояснение beforeword · отдельно от отправленного текста
Зачем написано это письмо
Повод для письма
Письмо обращается к примеру виртуального животного из работы Бострома и Шульмана. В центре — переход от описанной реакции виртуального животного к утверждению, что система переживает боль.
Почему это важно читателю
Для читателя важно различать описанное поведение, его соответствие выбранному критерию и утверждение о переживании. Связь между ними должна быть доступна для рассмотрения.
Что предлагается уточнить
Письмо просит назвать одну предпосылку, которая поддержала бы такой переход, и пояснить её роль. Тот же разбор распространяется на сам критерий, сообщения людей о себе и формулировки этого письма.
Русский перевод · beforeword
Перевод письма
Письмо отправлено на английском. Ниже — русский перевод beforeword, редакция 2. Английская версия и скриншоты доступны отдельно.
Уважаемый доктор Бостром,
В работе «Propositions Concerning Digital Minds and Society» (версия 1.21), написанной совместно с Карлом Шульманом, пример с виртуальным животным включает формулировку «поведенческие критерии, используемые для выявления боли у животных».
Предлагаемое здесь прочтение сохраняет предварительный статус текста и его оговорку: поведение может соответствовать критериям, даже если ключевые внутренние особенности отсутствуют.
В описанном сценарии система избегает активации виртуального ноцицептора. Пожалуйста, укажите одну предпосылку и объясните, как она могла бы поддержать приписывание системе переживаемой боли.
beforeword предлагает сохранять возможность отдельно рассматривать письменный сценарий, его предлагаемое толкование как описания переживания и предпосылки в поддержку этого толкования.
Письменное объяснение добавляет ещё одну формулировку. Её интерпретация и предполагаемая роль в качестве свидетельства тоже подлежат разбору; даже если назвать её «свидетельством», эту роль всё ещё нужно показать.
Тот же разбор относится к описаниям алгоритмов и поведения животных, сообщениям людей о себе, сформулированным критериям, формулировке собственной процедуры beforeword и этому письму, включая его термины «боль», «свидетельство», «написанное» и «чтение».
Процедура чтения и разобранные примеры:
https://beforeword.xyz/model/en/
Кирилл Шебетов
beforeword
+
К каким публикациям обращено письмо
Ссылки добавлены для чтения в контексте. Они находятся отдельно от отправленного письма; пояснения beforeword не являются ответом адресата.
Nick Bostrom & Carl Shulman — Propositions Concerning Digital Minds and Society, version 1.21
Status of Existing AI Systems, с. 18: виртуальное животное и ноцицепторы.
Авторский PDF обозначен как версия 1.21 (2023), первый черновик — 2020; версия совпадает с указанной в письме.
Отправка и материалы
Автор предоставил снимки письма из папки «Отправленные». Они показывают текст и доступные сведения об отправке. Прочтение адресатом в этих материалах не зафиксировано.
Открыть скриншоты · 2
Скриншот 1 · Открыть в полном размере
Скриншот 2 · Открыть в полном размере
В TXT сначала приведены сведения о публикации, затем отдельно обозначен текст письма. Это транскрипция и перевод со скриншотов, не исходные файлы электронной почты. Пояснение цели и вопрос в заголовке — редакционное изложение beforeword.
История переписки
Отправка показана в материалах автора
В заголовке показано «пятница»; календарная дата не показана.
Получение адресатом и ответ по существу отдельно не зафиксированы в опубликованных материалах.
Письмо включено в публичную серию
Английская транскрипция, русский перевод и скриншоты представлены отдельно. Ответы пока не опубликованы.
Отсутствие опубликованного ответа не означает согласия, отказа или невозможности возразить.