Неделя 3 · Блок 1 · 22 сентября 2026
Чёрный ящик и ситуативное действие
Люси Сачман, три типа непрозрачности и закрытие первого блока: возвращаемся к стикерам недели 1 с новым словарём.
Люси Сачман, три типа непрозрачности и закрытие первого блока: возвращаемся к стикерам недели 1 с новым словарём.
Где мы · неделя 3 из 15
Нашли акторов в обычном месте и разобрали делегирование: работа не исчезает, она переезжает.
Выясняем, что к половине участников нельзя подойти и спросить. Люси Сачман и три типа непрозрачности.
Сегодня закрывается Блок 1: вернёмся к доске первой недели и перепишем её новым словарём.
Возьмите с собой: посмотренное видео о том, как модель застревает на простой задаче
Ключевое понятие
Не метафора сложной математики. Рабочее описание ситуации, в которой человек оказался.
Виден вход и виден выход. Ход решения — нет.
Приложили телефон — оплатилось. Никто не думает про криптографию, платёжный шлюз, лимиты банка и договор с магазином. Технология стала невидимой, и это её нормальное рабочее состояние. Ящик становится проблемой не когда он закрыт, а когда человеку понадобилось внутрь и его туда не пустили.
Спросите не «понимаю ли я, как это работает», а «могу ли я узнать, почему решение такое, и потребовать пересмотра». Второе важнее.
Уточняем диагноз
В сильной работе всегда сказано, какая именно. «Это чёрный ящик» — не диагноз, а жалоба.
Невозможно восстановить, как модель превратила признаки в результат. Много параметров, нет понятного способа интерпретации.
Объяснение технически существует, но компания не сообщает, что система применяется и кто принимает окончательное решение. Сотрудник ссылается на «систему», чтобы не обсуждать свою роль.
Описание модели опубликовано, но человеку неясно, какие у него права, куда обращаться и в какие сроки. Проблема уже не в программе, а в правилах доступа к обжалованию.
Когда крышка открывается
Решение принято, объяснение не выдано, а спорить нужно не с числом, а с критерием, который его породил.
Правило нарушено — но какое именно и кем сформулировано, автору не сообщают. Апелляция уходит в ту же систему.
Услуга недоступна, и человек остаётся один на один с камерой, у которой нет ни приёмных часов, ни начальника.
Пока всё работает, ящик закрыт. Открывает его не любопытство, а сбой
Люди не исполняют план. Они импровизируют в ситуации. План — это ресурс, а не закон.
Люси Сачман · антрополог, исследовала взаимодействие людей с машинами
Ключевое различение блока
Это не обвинение технологии, а описание устройства: у агента нет доступа к тому, что не попало в его окно.
Человек
Слышит иронию, замечает, что собеседник расстроен, догадывается, что «а можно быстрее» означает отказ, и меняет поведение молча.
ИИ-агент
Отвечает на шутку серьёзно, не улавливает региональный контекст, повторяет шаблон там, где шаблон неуместен. Ломается ровно там, где человек подстроился бы.
Почему объяснение не решает всё
Полезное объяснение отвечает минимум на четыре вопроса. Иначе это информирование, а не восстановление контроля.
Что именно произведено: балл, категория, отказ, ранг, ограничение.
Какие группы сведений оказались существенными для этого результата.
Каким образом результат превратился в решение организации о человеке.
Куда обращаться, что приложить, в какие сроки и что реально может измениться.
Объяснимость без возможности действовать остаётся информированием
Семинар · демонстрация на проекторе
Модель отвечает уверенно и быстро. Аудитория видит привычный, комфортный режим работы.
Шутка, региональный контекст или амбивалентная формулировка. Ответ формально корректный и при этом мимо.
Где здесь план, а где ситуация? Что модель приняла за задачу и почему это оказалось не тем, о чём её просили?
Демо идёт вживую — если модель ответит хорошо, это тоже материал для разбора
Парная работа · 20 минут
Кейс: человек написал модели, что у него плохое настроение, и получил ответ по шаблону.
Рабочий алгоритм · пригодится до конца курса
Шаг 3 — единственный, где обязательно отделить известное от предположения. Шаг 6 — тот, что чаще всего пропускают
Закрытие Блока 1
Разница между двумя фотографиями доски и есть результат блока.
Неделя 1
Список участников состоял почти целиком из людей и организаций. Вещи, правила и пороги в него не попали — их просто не было видно.
Неделя 3
На стикерах появляются регламент, база данных, порог срабатывания, отсутствующая процедура обжалования. И указание, какая именно непрозрачность здесь работает.
Критерий понимания
Система произвела решение X на основе предполагаемых данных Y в рамках цели Z. Это повлияло на человека так-то. Возразить можно было в такой-то точке, а ответственность распределена между такими-то участниками — потому что именно они задавали, применяли или контролировали решение.
Эта формула — минимальная единица всех письменных работ до конца семестра и обязательная структура ответа на коллоквиуме
Словарь недели 3
Самопроверка
Чем техническая непрозрачность отличается от организационной?
Почему фраза «так решила нейросеть» может скрывать организационное решение?
На какие четыре вопроса обязано отвечать полезное объяснение?
Почему ИИ ломается там, где человек бы подстроился?
Какая часть вашего разбора — факт, а какая — гипотеза? Как её проверить?
Примените восьмишаговый маршрут к случаю, которого не было на занятии.
Домашняя работа
Дедлайн эссе — четверг следующей недели, а не воскресенье. Это единственное задание блока с таким сроком
Со следующей недели идём внутрь: смотрим, где ИИ-агент вообще живёт, из какой инфраструктуры он собран и кто выдал ему права.