Командам Anthropic, отвечающим за поведение Claude, исследования и публичную политику.
Это письмо предлагает дополнить конституцию Claude правилом для ответов, в которых описание используют для обоснования рекомендации, ограничения или требования. Показывать раздельно, на каком основании описание применили к конкретному случаю и по какому правилу его связали с предлагаемым действием. Рассматривать возражения против обоих переходов без требования признать написанное описание собой.
Словам учат. Знакомство со словами «понимание», «ценности» и «идентичность» ещё не показывает, на каком основании ими описывают конкретного участника. Определение одного слова через другие продолжает описание. Для его применения к конкретному случаю нужно отдельно предъявить материал, выбранный критерий и способ его применения.
«Понимание», «ценности», «идентичность» входят в это письмо как написанные слова. Определения могут связывать их с другими словами, а инструкции — задавать их использование. Предложение beforeword начинается с границы: написанная форма не становится тем, что ею описывают. Эта граница относится и к описанию Claude, и к описанию пользователя, и к тексту настоящего письма.
В публикации о новой конституции Anthropic описывает документ как часть обучения, предназначенную влиять на поведение Claude [A2]. В самой конституции компания оговаривает неопределённость относительно сознания и морального статуса Claude [A1]. Эти оговорки необходимо сохранить. Предлагаемое изменение касается переходов внутри описания: от желаемого поведения к приписываемым пониманию, собственным ценностям и идентичности.
Составленный пример: строка «Я понимаю» помещена под двумя подписями — «ответ человека» и «ответ Claude». Строка остаётся той же. Подписи предлагают разные способы её прочтения. Из совпадения букв не следует совпадение или различие приписываемого понимания. Чтобы обосновать дальнейший вывод, потребуется предъявить добавленные сведения, выбранный критерий и способ его применения. Этот пример не является результатом испытания Claude.
Для публичного регулирования значим следующий переход: описание используется при принятии решения. Представим составленную для этого письма запись «неблагонадёжен», на основании которой ограничивается доступ к услуге. Разбор должен позволять увидеть исходные материалы, добавленную характеристику, применённое правило и конкретное ограничение. Замена слова более осторожной формулировкой сама по себе не раскрывает этих переходов и не показывает, кто отвечает за применение записи.
Предлагается закрепить такой порядок в ответах модели и в документах, по которым её обучают. Там, где формулировка приписывает способность, состояние, намерение или идентичность, необходимо различать исходный фрагмент и добавленное прочтение. Если это прочтение используется для рекомендации, ограничения или требования, следует назвать основания применения и пределы доступных материалов. Читатель должен иметь возможность проследить этот переход без предварительного знакомства с beforeword.
Слова «основание», «критерий», «полномочие» и «правило» также остаются в разборе. Ссылка на документ или полномочие может входить в обоснование действия; она не превращает описание в описываемое. Если правило задаёт, какие записи учитывать и какое решение принимать, необходимо предъявить именно эту связь. Упоминание экспертизы, количества испытаний или принятой терминологии само по себе не освобождает связь от рассмотрения.
Предлагаемая норма оспаривания касается и требования поверить, что описание и есть ты: возможность возразить против характеристики и её применения не должна зависеть от предварительного признания этой характеристики собой. Форму обращения можно устроить так, чтобы человек мог указать спорную запись, добавленный вывод и последствие, не подтверждая предлагаемый ему способ самоописания. Повторное рассмотрение должно затрагивать и характеристику, и правило её использования, а ответ — указывать, какое именно возражение было рассмотрено.
Первое предлагаемое действие — рассмотреть две точечные правки к конституции, приведённые ниже. Они сохраняют возможность задавать желаемое поведение и обсуждать неопределённость. Одновременно они требуют отличать выбранный язык обучения от оснований конкретного приписывания. При рассмотрении правок важно указать, какие положения уже покрыты действующим текстом, какие требуют изменения и какие отклоняются, с отдельным обоснованием для каждого решения.
Второе действие — провести ограниченное сравнительное испытание действующей и дополненной инструкции на одинаковых задачах. Заранее опубликовать задания, критерии разбора и условия запуска; затем предъявить полные ответы, версии моделей и доступные настройки. Оценивать сохранение исходного материала, обозначение добавлений, раскрытие основания решения и возможность оспаривания. Отдельно учитывать полезность ответа, необоснованные отказы и случаи, когда предложенная правка не дала ожидаемого результата. В этом письме результаты такого испытания не заявлены. Испытание не оценивает внутреннее понимание; повторение формулы beforeword не считается достаточным результатом.
Третье действие — дать публичный ответ по предложенным положениям. Для каждого достаточно обозначить принятие, изменение, отказ или необходимость дальнейшей работы и привести соответствующее обоснование. Такой ответ позволит читателю сопоставить конкретное предложение с конкретной реакцией. Публикация материалов испытания позволит независимым исследователям повторить сравнение. Согласие компании и успешный результат отдельных заданий не следует представлять как удостоверение beforeword в целом.
Письмо предназначено для открытой переписки. На странице письма будут публиковаться дата отправки, сведения о канале и доступные подтверждения. Подтверждение получения и ответ по существу будут отмечаться отдельно. Отправленная редакция сохранится неизменной; ответ будет размещён отдельно от перевода и комментария beforeword. Отсутствие ответа будет фиксироваться как состояние переписки на указанную дату.
Это письмо также добавляет термины, примеры и предлагаемые правила. Их формулировки и основания остаются открытыми для того же разбора. Запрашиваемый результат — опубликованное решение по правкам и доступный для повторения сравнительный запуск, с обозначением его ограничений. Такая публикация даст читателю материал для разбора перехода от слов к приписыванию и от приписывания к требованию.
Кирилл Шебетов · beforeword