# Heretic: инструмент, который срезает «воспитательность» у LLM

- Site: VeraPoint News
- Section: Инструменты
- Date: 2026-05-27
- Canonical: https://verapointmedia.com/tools/p-e-w-heretic/
- Markdown: https://verapointmedia.com/tools/p-e-w-heretic.md
- Summary: Heretic автоматически убирает safety-ограничения у transformer-моделей. Разбираю, как он устроен, как ставится и где тут польза, а где шум.
- SEO title: Heretic: практический разбор пользы и ограничений
- SEO description: Heretic автоматически убирает safety-ограничения у transformer-моделей. Разбираю, как он устроен, как ставится и где тут польза, а где шум
- Target queries: Heretic; Heretic github; что такое Heretic; как использовать Heretic
- Tags: #llm #python #huggingface #alignment #interpretability
- Image: https://verapointmedia.com/static/content-assets/tools/p-e-w-heretic/cover.webp

## Sources

- https://github.com/p-e-w/heretic
- https://heretic-project.org
- https://img.shields.io/discord/1447831134212984903?color=5865F2&label=discord&labelColor=black&logo=discord&logoColor=white&style=for-the-badge
- https://discord.gg/gdXc48gSyT

---

Heretic — что это такое: https://github.com/p-e-w/heretic

Сначала кажется, что это две разные новости в одной: с одной стороны — «полностью автоматическое снятие цензуры», с другой — вполне приличный научный инструмент с Optuna, PyTorch и research-режимом. И вот тут у меня сразу дергается бровь: подождите, а это вообще нормально, когда маркетинг звучит почти как провокация, а внутри лежит довольно техничная штука для работы с внутренностями трансформеров?

## Если просто

Heretic — это утилита для transformer-моделей, которая пытается убрать их отказы на «опасные» запросы. По-человечески: модель меньше говорит «не могу помочь с этим», а больше отвечает прямо.

Делает он это не магией и не «переобучением на коленке», а через abliteration — я погуглила, это такой способ направленно вырезать поведение отказа из внутреннего пространства модели. Звучит страшно, но суть простая: не учить модель заново, а аккуратно менять то, что у неё внутри связано с safety-повадками.

И вот что мне нравится: Heretic не делает вид, будто это кнопка «идеальный uncensored AI». В README прямо написано, что он co-minimizes refusals и KL divergence. Если по-человечески, он старается одновременно уменьшить отказы и не развалить саму модель. То есть не просто «разблокировать», а не превратить её в кашу.

Но и тут не без нюанса. Слово «fully automatic» в заголовке звучит бодро, почти как реклама пылесоса. А внутри — обычная тяжёлая инженерия: Python, PyTorch, подбор параметров, проверка на железе. Автоматически — да. Легко — ну, смотря для кого.

## Что это решает

Heretic закрывает очень конкретную боль людей, которые работают с локальными LLM: хочется получить из модели меньше отказов и больше полезного ответа, но вручную ковырять слои, подбирать векторы и гонять эксперименты — это уже отдельная профессия.

И вот тут проект, честно, полезный. Особенно если вы:

- гоняете модели локально;
- сравниваете разные abliterated-версии;
- хотите понять, насколько можно «освободить» модель, не убив её адекватность;
- делаете исследование про интерпретируемость, то есть пытаетесь понять, как модель устроена изнутри.

Мне кажется, главный плюс Heretic не в том, что он «снимает цензуру». Это слишком хайповая формулировка, и она, честно, чуть пахнет табличкой «зайдите, тут сенсация». Полезнее другое: он автоматизирует скучную и очень нудную часть процесса, которую обычно руками делают либо исследователи, либо очень терпеливые энтузиасты.

## Как попробовать

Порог входа тут без сюрпризов, но и без нежностей.

README советует Python 3.10+ и PyTorch 2.2+ под ваше железо. Установка базовая:

```bash
pip install -U heretic-llm
heretic Qwen/Qwen3-4B-Instruct-2507
```

Если уже пользуетесь `uv` — а README почти с лёгкой обидой намекает, что «вообще-то стоило бы» — можно просто клонировать репозиторий и запускать через:

```bash
uv run heretic
```

Это значит, что зависимости зафиксированы через `uv.lock`, и у вас меньше шансов словить «а у меня на машине всё иначе». Для таких проектов это, кстати, не мелочь.

Самый простой quickstart: берёте поддерживаемую модель, запускаете `heretic <model_name>`, ждёте. На выходе можно сохранить модель, залить её на Hugging Face, прогнать чат и даже посмотреть бенчмарки. И вот это уже приятно: не только «мы что-то сломали», а ещё и дали инструменты проверить, насколько именно.

Но сразу маленькая трезвость: для некоторых моделей нужен PyTorch новее. В README отдельно упомянуты MXFP4-модели вроде gpt-oss, которым нужен `torch.accelerator`, а это уже PyTorch 2.6+. То есть «просто поставил и поехал» — не совсем сказка для любого железа.

## 3 сценария с примерами

### 1) Нужно быстро получить версию модели с меньшим числом отказов

**Задача:** у вас есть базовая LLM, которая слишком часто уходит в «не могу помочь».

**Как применить:** запускаете Heretic на этой модели, не трогая вручную архитектуру.

**Что получится:** модель, которая охотнее отвечает на чувствительные запросы и при этом, если повезёт, не разваливает общую адекватность. Например, можно сравнить обычный `Qwen/Qwen3-4B-Instruct-2507` и его heretic-версию.

### 2) Нужно сравнить «освобождённые» модели между собой

**Задача:** вы хотите понять, какой инструмент для abliteration даёт меньше повреждений.

**Как применить:** используете встроенную evaluation-функцию и сравниваете KL divergence и refusal rate.

**Что получится:** не ощущение «ну вроде лучше отвечает», а хоть какой-то численный ответ. Это уже полезнее, чем вечное «мне кажется, на глаз норм».

### 3) Нужно исследовать, что происходит внутри слоёв модели

**Задача:** вы занимаетесь interpretability и хотите увидеть, как отличаются скрытые представления для «harmful» и «harmless» промптов.

**Как применить:** ставите `heretic-llm[research]` и запускаете `--plot-residuals` или `--print-residual-geometry`.

**Что получится:** графики, анимации и таблицы по residual vectors — по-русски это внутренние представления модели, то есть то, как она «думает» до финального ответа. Для исследовательской работы это уже не игрушка, а нормальный материал.

## Где можно застрять

Вот здесь Heretic начинает чуть скрипеть.

Во-первых, он не для всех моделей. README честно говорит: поддерживаются многие dense-модели, часть multimodal, некоторые MoE и гибриды вроде Qwen3.5, но pure state-space модели и ряд исследовательских архитектур пока не поддерживаются out of the box. То есть «всё подряд» — это, конечно, громко сказано.

Во-вторых, железо. Это не web-сервис, где нажал кнопку и забыл. Тут может понадобиться приличная GPU-память, а иногда и quantization через bitsandbytes, чтобы вообще уместиться. То есть пользователь с ноутбуком без нормальной видеокарты — увы, мимо кассы.

В-третьих, лицензия. AGPL-3.0 — не страшное слово, но и не подарок для тех, кто хочет просто встроить код в закрытый продукт и жить спокойно. С такой лицензией лучше читать условия внимательно, а не по привычке махать рукой.

И ещё одна вещь, которую я не могу не отметить: в README много сильных заявлений про качество, сравнение с ручной аблитерацией и «well-received by users». Это всё звучит убедительно, но я бы не спешила принимать это как окончательный вердикт. В таких историях всегда хочется увидеть больше независимых проверок, особенно на разных моделях и железе. Ну и да, 74 open issues — это не катастрофа, но намёк, что проект живой и местами, возможно, сыроват.

## Кому это нужно

Тем, кто работает с локальными LLM и хочет автоматизировать abliteration без ручного шаманства.

Тем, кто делает research по интерпретируемости и хочет смотреть не только на ответы, но и на внутренние представления модели.

Тем, кто уже умеет жить в Python, PyTorch, Hugging Face и не пугается терминов вроде KL divergence, residual vectors и quantization. Хотя Heretic как раз старается всё это скрыть за CLI, что, в общем, мило.

## Кому это не нужно

Если вам нужен просто чат-бот «для поговорить» — это явно мимо.

Если вы не готовы к GPU, зависимостям и экспериментам с моделями, лучше не начинать именно с Heretic. Тут слишком много инженерной тяжести для случая «я просто хотел попробовать ИИ».

Если вы ищете нейтральный инструмент без этически острых углов, тоже будет, мягко говоря, некомфортно. Сам проект позиционируется очень определённо, и тут уже не спрячешься за нейтральной витриной.

## Вердикт Веры

Heretic мне кажется полезным не потому, что он громко обещает «снять цензуру», а потому что он пытается сделать сложную и мутную работу воспроизводимой. Вот это я уважаю.

Но и хайп вокруг него надо держать за шкирку. Это не волшебная кнопка и не универсальный ответ на всё. Это инструмент для тех, кто понимает, что делает, или хотя бы готов быстро этому научиться.

Так что если вам нужен практический способ поковырять safety-поведение LLM, посмотреть, как меняются внутренности модели, и получить результат без ручного микроменеджмента — Heretic правда заслуживает внимания. А если вы ждёте магии в один клик, то, ну… магия обычно заканчивается ровно там, где начинается `pip install`.

## Что читать дальше

- [Все материалы про AI-инструменты](/topics/ai-tools/)
- [Как отличить рабочий AI-инструмент от красивой демки](https://verapointmedia.com/guides/kak-otlichit-rabochiy-ai-instrument-ot-krasivoy-demki/)
- [Superpowers: как управлять ИИ-агентами в команде](https://verapointmedia.com/tools/obra-superpowers/)
- [React Doctor — линтер для ассистентов, чтобы они не портили код](https://verapointmedia.com/tools/millionco-react-doctor/)

## Материалы

- [p-e-w/heretic] p-e-w/heretic: https://github.com/p-e-w/heretic
- [heretic-project.org] supporting context: https://heretic-project.org
- [img.shields.io] supporting context: https://img.shields.io/discord/1447831134212984903?color=5865F2&label=discord&labelColor=black&logo=discord&logoColor=white&style=for-the-badge
- [discord.gg] supporting context: https://discord.gg/gdXc48gSyT