Лонгрид к неделе 2 · читать до занятия
Шесть страниц о том, почему дверной доводчик — сотрудник, капча — участник вашей биографии, а фраза «система так решила» скрывает не меньше пяти человеческих решений.
Не заучивайте определения. Ваша задача — научиться делать одну операцию: брать знакомую ситуацию и переписывать её так, чтобы в описании оказались все участники, а не только люди. В тексте четыре остановки с вопросами. На них стоит притормозить и ответить письменно хотя бы в двух словах — иначе на семинаре придётся начинать с нуля.
В 1975 году французский исследователь Бруно Латур приехал в лабораторию Солка в Калифорнии. Он не был биологом и не собирался проверять чужие гипотезы. Он занялся тем, чем обычно занимаются антропологи в далёкой деревне: сел в углу и стал записывать, что люди делают руками.
Результатом стала книга «Лабораторная жизнь», написанная вместе со Стивом Вулгаром. Её главное наблюдение оказалось неудобным для самой науки: научный факт не «обнаруживается» в природе готовым. Он собирается — из проб, приборов, записей, черновиков, споров, публикаций и договорённостей о том, что считать убедительным. Уберите центрифугу — и часть фактов просто не сможет появиться. Уберите принятый формат статьи — и результат не станет фактом, потому что его негде будет предъявить.
Отсюда вырос ход мысли, который позже назвали акторно-сетевой теорией — сокращённо АСТ. Для нашего курса из неё нужны четыре инструмента: актор, делегирование, предписание и симметрия. Разберём каждый.
Актор — участник, который меняет ход событий.
Не обязательно человек. Дверь, светофор, регламент, порог срабатывания модели, строка в базе данных, срок в календаре. В текстах вам встретится и второе слово — актант. Разница между ними для наших задач несущественна: оба означают «то, что производит эффект».
Здесь сразу возникает возражение, и его лучше проговорить до того, как оно испортит вам семинар. Возражение звучит так: «но у вещи же нет намерений, она ничего не хочет». Верно. АСТ и не приписывает вещам желаний. Она говорит о другом: если участник производит эффект, он обязан оказаться в описании. Вопрос «чего хотел доводчик» бессмысленный. Вопрос «что изменилось бы, если бы доводчика не было» — рабочий.
Из этого следует проверочный тест, который вам понадобится в домашней работе.
Мысленно уберите участника из истории. Ход событий изменился? Значит, это актор. Не изменился — в список он не попадает.
Тест отсекает главную ошибку новичка — инвентаризацию. Стул в аудитории не становится актором просто потому, что он стоит в комнате. Он становится актором в тот момент, когда, например, его отсутствие срывает семинар или его конструкция определяет, кто в аудитории сидит впереди.
Вспомните последний раз, когда вы не смогли что-то сделать не потому, что вам отказал человек, а потому, что «не получилось». Что это было — форма, турникет, срок, требование к формату файла? Запишите одним предложением, что именно этот участник изменил.
Самый известный сюжет Латура — короткая работа о дверном доводчике. Той самой железке наверху двери, которая закрывает её за вами. Текст написан язвительно и читается за пятнадцать минут; на семинаре мы прочитаем из него фрагмент вслух.
Логика такая. У двери есть задача-противоречие: она должна быть открыта, чтобы люди входили, и закрыта, чтобы не выстуживало помещение. Решить противоречие можно тремя способами.
Первый — повесить объявление «закрывайте дверь». Это делегирование задачи тексту. Работает плохо: объявление ничего не может, кроме как упрекать.
Второй — посадить швейцара. Задача делегирована человеку. Работает хорошо, но человек устаёт, уходит домой, болеет и требует зарплату.
Третий — поставить доводчик. Задача делегирована вещи. Он работает круглосуточно, молча и бесплатно. Латур называет его делегированным сотрудником: у него нет ставки в штатном расписании, но работу он выполняет.
И вот здесь начинается социология, а не инженерия. У третьего решения есть цена, которую платит не тот, кто его принял. Пружина доводчика настроена на определённое усилие. Это усилие отсекает тех, у кого его не хватает: ребёнка, пожилого человека, курьера с коробкой в обеих руках, человека на костылях.
Никто не принимал решения «не пускать людей со слабыми руками». Решение было техническим: выбрали модель доводчика. Но результат оказался социальным — устройство молча предъявило требование к телу человека.
Предписание — требование, которое вещь молча предъявляет пользователю.
Понятие ввела Мадлен Акрич, коллега Латура: проектировщик, часто того не замечая, «вписывает» в устройство образ будущего пользователя — с определёнными руками, зрением, языком, временем и терпением. Тот, кто в этот образ не попал, пользоваться устройством не сможет.
Предписания окружают нас плотнее, чем кажется. Турникет предписывает иметь свободную руку. Капча предписывает различать мелкие детали на картинке. Форма на сайте предписывает иметь фамилию из одного слова и телефон определённого формата. Голосовой помощник предписывает говорить без акцента и без пауз.
Заметьте: во всех случаях это не злой умысел. Это допущение, которое кто-то сделал по умолчанию и не проверил. В этом и ценность оптики — она находит решения там, где никто не считал, что принимал решение.
Возьмите любой сервис, которым пользуетесь ежедневно. Какого пользователя он в себя «вписал»: с каким устройством, каким зрением, каким запасом времени, каким языком? Кто в этот образ не попадает?
Принцип симметрии требует описывать людей и не-людей одним языком. Не «люди решают, а техника исполняет», а «у каждого участника есть эффект, и мы его называем».
Зачем это нужно практически? Затем, что асимметричное описание систематически теряет половину истории. Если техника по определению пассивна, то любой сбой объясняется человеческой ошибкой: невнимательный оператор, неквалифицированный сотрудник, недисциплинированный пользователь. Устройство остаётся невиновным фоном, а причина сбоя — ненайденной.
Теперь о том, чего симметрия не означает. Она не означает, что вещи равны людям морально или юридически. Она не означает, что техника объективнее людей. Она не означает, что у алгоритма есть воля. Это методическое требование к описанию, а не философское утверждение о равенстве. Держите это различение — на семинаре половина споров возникает именно здесь.
Слово «сеть» в АСТ сбивает с толку, потому что мы привыкли к сетям из кружочков и стрелочек. Здесь имеется в виду другое: сеть — это то, как участники держат друг друга. Не картинка, а работа по удержанию.
Практическое следствие для ваших работ: список участников через запятую — ещё не сеть. Сеть появляется тогда, когда сказано, кто на кого влияет и что произойдёт, если одно звено выпадет. «Пользователь, приложение, сервер, закон» — это перечень. «Закон обязывает хранить данные в стране, поэтому приложение обращается к местному серверу, поэтому при его отказе не работает вход» — это сеть.
| Актор | Что он меняет | Кто его туда поставил |
|---|---|---|
| Рекомендательный алгоритм | Определяет, что вы вообще увидите, — а значит, о чём будете думать вечером и что покажется вам распространённым мнением. | Платформа, выбравшая удержание внимания главной метрикой, и команда, которая эту метрику зашила в обучение. |
| Капча | Решает, человек вы или нет, и на этом основании пускает или не пускает к услуге. Ошибка означает отказ живому человеку. | Владелец сервиса, назначивший порог строгости, и подрядчик, чью капчу он купил вместе с её предписаниями. |
| Антифрод банка | Может заморозить карту в чужом городе, не спросив ни вас, ни сотрудника отделения. Возвращает доступ не сразу. | Банк, выбравший риск-аппетит, и тот, кто определил процедуру после срабатывания. |
Третий столбец — самый важный. Он не даёт разговору скатиться в одушевление алгоритма. За каждым не-человеком в этой таблице стоит человеческое решение: кто-то выбрал метрику, порог, поставщика и процедуру. Симметрия нужна не чтобы снять ответственность с людей, а чтобы найти, где именно они её приняли.
Студент перечисляет всё, что стоит в комнате. Лечится проверочным тестом: что изменится, если убрать? Если ответ «ничего» — вычёркиваем.
«Алгоритм хочет удержать вас подольше». Так писать нельзя: у алгоритма нет желаний. Правильная формулировка: «платформа оптимизирует удержание, поэтому модель ранжирует так-то». Разница не косметическая — во второй фразе есть тот, кого можно спросить.
Все участники названы, но не сказано, кто на кого влияет. Смотри раздел 6: перечень — не сеть.
Проверьте по этим трём ошибкам любой текст об ИИ, который попадётся вам на этой неделе, — статью, пост, презентацию. Какую из трёх он совершает?
Честность требует сказать и это. Акторно-сетевую теорию критикуют, и критика по делу.
Она плохо видит устойчивое неравенство. Описывая всё как сеть текущих связей, легко потерять из виду, что у одних участников ресурсов систематически больше, чем у других, и так было до всякой сети. Латур на это отвечал, что структуру тоже нужно каждый раз показывать в действии, а не постулировать. Спор не закрыт.
Она рискует размыть ответственность. Если участников много и все влияют, соблазн заключить «виновата система». Для нашего курса это прямая опасность, поэтому мы держим отдельное правило: распределённая ответственность не означает, что отвечать некому. К этому вернёмся на неделе 9.
Она описывает, но не оценивает. АСТ отвечает на вопрос «как это устроено», а не «хорошо это или плохо». Оценку придётся приносить откуда-то ещё — из права, из этики, из интересов конкретных людей.
Мы берём АСТ как оптику, а не как истину. Она полезна ровно тем, что находит участников, которых обычное описание пропускает. Дальше начинается работа, которую она за вас не сделает.
Затем, что ИИ-система — предельный случай делегирования. Организация передаёт часть работы устройству: не швейцару и не объявлению, а модели, которая классифицирует, ранжирует и маршрутизирует. Работа переезжает, а вместе с ней переезжает и цена.
На неделе 11 мы разберём это на живом кейсе: в компании была должность регистратора, который сортировал входящие документы. Появилась система, которая делает то же самое. Часы сэкономлены. Вопрос курса — что ещё изменилось и кто это оплатил. Ответ на него собирается ровно теми инструментами, которые вы сейчас прочитали.
Почему у доводчика «есть зарплата», хотя ему никто не платит?
Чем описание эффекта отличается от приписывания намерения — и почему это различение важно на защите проекта?
Кого отсекает тугая пружина и кто принял это решение?
Приведите предписание, которое встроено в сервис, которым вы пользуетесь ежедневно.
Почему перечень участников через запятую ещё не является сетью?
Какое из трёх возражений против АСТ кажется вам самым сильным и почему?
Опишите ИИ-приложение, которым вы пользуетесь, через семь и более акторов, из них минимум четыре — не люди. Для каждого не-человека скажите две вещи: что именно он меняет и кто его туда поставил. Список без эффектов не засчитывается — это инвентаризация, а не анализ.
На семинаре недели 2 читаем фрагмент «Социологии одной двери» вслух и делаем воркшоп «Найди акторов»: десять участников обычного места, из них минимум пять не-людей. К неделе 3 посмотрите короткое видео о том, как модель застревает на простой задаче, — с него начнём следующее занятие.