Неделя 10 · Блок 3 · 10 ноября 2026
Калиброванное доверие. Коллоквиум
Закрытие практикума и вторая оценочная точка курса весом 25 %: устно, индивидуально, по всем трём блокам.
Закрытие практикума и вторая оценочная точка курса весом 25 %: устно, индивидуально, по всем трём блокам.
Где мы · неделя 10 из 15
Развели юридический, технический и человеческий ответы на вопрос «чья подпись».
Доводим доверие до конца и сдаём коллоквиум по всем трём блокам.
25 % оценки. И репетиция того, как вас будут спрашивать на защите в декабре.
Возьмите с собой: карту понятий Блоков 1–3, загруженную в LMS
Главная идея
Калибровка означает соответствие: вы полагаетесь на агента ровно в тех задачах, где он действительно надёжен, и не полагаетесь там, где он не компетентен. Обе ошибки стоят дорого, но выглядят по-разному: одна даёт непроверенное решение, другая — ручную работу, которой можно было избежать.
Один и тот же инструмент: перевод текста и юридическая консультация — разная уместность доверия
Парадокс прозрачности · углубление
Вывод для дизайна: что показывать, решают по цене ошибки, а не по желанию выглядеть открыто.
Ожидание
Логика продуктовой команды: непрозрачность пугает, значит, объяснение снимет тревогу и повысит принятие.
Наблюдение
Доверие падает — и часто заслуженно. Объяснение не успокаивает, оно даёт основание для более точной оценки.
Понятие
Оно измеримо и управляемо — значит, это предмет проектирования, а не свойство характера пользователя.
Насколько трудно человеку убедиться, что агент всё сделал хорошо.
В медицине это неудобство полезно: врач обязан потратить усилие на проверку, и процедура специально устроена так, чтобы он не мог её пропустить. В рутине то же самое превращается в раздражение — и проверять перестают вообще.
Если проверка стоит дороже самой задачи, её не будут делать — сколько бы ни требовал регламент. Это не про дисциплину, а про арифметику.
Когда прозрачность обязательна
Организация обязана назвать основание решения, а не сослаться на модель. Ссылка на систему обоснованием не является.
Врач объясняет пациенту диагноз и роль алгоритма в нём. Ответственность остаётся на человеке, даже если предложение сделала машина.
Суд обязан обосновать вывод. Система поддержки принятия решений может участвовать, но не может заменить мотивировку.
И зеркальный случай: при простых решениях с высокой надёжностью лишние объяснения только мешают
Почему средняя точность обманывает
Вопрос справедливости должен быть конкретным: справедливо по отношению к кому, в какой процедуре, с какой ценой ошибки?
Одни люди чаще оставляют цифровой след, другие почти не видны системе.
Возражение требует времени, языка и уверенности. Не у всех они есть.
Одни группы попадают под проверку систематически, другие — почти никогда.
Для одного отказ — неудобство, для другого — потеря единственного канала.
Интерфейс и процедура написаны для человека определённого типа.
Особенность превращается в «аномалию» только потому, что норму задали узко.
Оценочная точка · 25 % итоговой оценки
Как выглядит сильный ответ
Ответ, начинающийся со слов «ну, алгоритм ошибся», дальше можно не продолжать.
Шесть звеньев за пять минут — это примерно по сорок секунд на каждое. Успевает тот, кто не пересказывает теорию
Что отличает уверенный ответ
Назван реальный случай, а не «системы вообще».
Факт отделён от гипотезы вслух, без напоминания.
Сказано, какая именно: техническая, организационная или институциональная.
Среди акторов названы регламент, порог, база — а не только компании и люди.
Закрытие Блока 3 · формат стендапа
Разбор сессии как детектива — это аналитический жест. Он не обязательно ведёт к переделке продукта, но даёт понимание, которое остаётся с вами в любой роли: аналитика, дизайнера, продакта, инженера.
Словарь недели 10
Самопроверка
Почему средняя точность системы не показывает всей цены ошибки?
Когда неудобство проверки полезно, а когда вредно?
В каких процедурах объяснение обязательно по закону?
Почему показанное рассуждение может снизить доверие заслуженно?
Назовите группу, для которой отказ вашей системы дороже, чем для остальных.
Какой тип непрозрачности у сервиса, о котором вы писали на неделе 3?
Домашняя работа
Блок 4 начинается с кейса, который вы сможете допрашивать: ИИ-канцелярия и её архитектор. Впервые у вас будет доступ не к тексту о системе, а к человеку, который её построил.