Сквозной материал · пригодится на неделях 4, 11, 12 и 14
Четыре чужих текста, которые входят в программу. Здесь не пересказ — здесь навигатор: что в каждом искать, какие вопросы держать в голове и как это связано с ближайшим семинаром.
Авторские тексты мы не переписываем и не подменяем конспектом: у них есть авторы, издатели и переводчики. Выдержки для занятий выдаются отдельно и в объёме, допустимом для учебного цитирования. Задача этого материала другая — дать вам рамку, с которой к чтению подходить, чтобы не утонуть в незнакомых именах и не пересказать на семинаре аннотацию вместо текста.
Приём для всех четырёх: читайте с одним вопросом в голове, а не с намерением понять всё. Вопрос указан для каждого текста.
К неделе 4 · выдержка 3–4 страницы
Кто. Сьюзен Ли Стар — американская исследовательница науки и техники. Занималась тем, что обычно считают скучным: классификациями, стандартами, справочниками и сетями. Показала, что именно в этой «скуке» и распределяется власть.
О чём. О том, что инфраструктура — это не провода, а отношение. Одно и то же может быть инфраструктурой для одного и предметом работы для другого: для вас водопровод невидим, для сантехника это объект. Отсюда её знаменитый ход — изучать инфраструктуру в момент поломки, потому что только тогда она становится видимой.
Для кого описываемая инфраструктура невидима, а для кого она — ежедневная работа? Кто эту работу делает и замечает ли её кто-нибудь?
Что искать в тексте. Перечень свойств инфраструктуры: она встроена в другие структуры, невидима в работе, изучается при поломке, наследует установленную базу, требует обучения для пользования. Выпишите их — они пригодятся как чек-лист к вашей схеме «дома ИИ».
Связь с занятием. На неделе 4 вы рисуете квартиру одного агента. Свойства из этого текста — готовый список того, что на схеме обычно забывают: унаследованные ограничения, необходимость обучения, невидимая работа поддержки.
К неделе 11 · конспект-выдержка 8 страниц
Кто. Кейт Кроуфорд — исследовательница социальных последствий ИИ. «Атлас ИИ» — книга о том, из чего физически и социально собран искусственный интеллект: из полезных ископаемых, труда разметчиков, данных, взятых без спроса, и классификаций, придуманных людьми.
О чём глава. О том, что любое деление мира на категории — социальное решение, а не описание природы. Кроуфорд разбирает историю больших наборов размеченных изображений и показывает, как категории, казавшиеся нейтральными, несли в себе вполне определённые представления о людях. Категория выглядит как описание, но работает как действие: попал в категорию — получил обращение.
Кто придумал эту категорию, что она позволяет сделать и что она делает невидимым?
Что искать. Момент перехода от описания к действию: где в примерах Кроуфорд категория перестаёт быть ярлыком и начинает определять доступ, проверку или отказ.
Осторожно. Книга полемическая, автор не скрывает позиции. Это нормально, но на семинаре различайте: вот наблюдение, вот вывод автора, вот ваше согласие или несогласие. Норма 2 курса действует и в отношении сильных текстов.
Связь с занятием. Третий шаг ИИ-канцелярии — классификация. «Претензия» или «письмо» — это не свойство документа, а решение, которое определяет маршрут, срок и человека. Глава Кроуфорд даёт язык, чтобы это описать.
К неделе 12 · выдержка 10 страниц
Кто. С Сачман вы уже знакомы по неделе 3 — там речь шла о ситуативном действии. Здесь другая её линия, более поздняя и более критическая.
О чём. О том, что, проектируя систему, разработчик одновременно проектирует и её пользователя: предполагает человека с определёнными руками, языком, временем, терпением и мотивацией. Этот воображаемый пользователь встроен в устройство. Тот, кто в него не попадает, оказывается «неправильным» — хотя не сделал ничего неправильного.
Вторая линия главы — критика антропоморфизма. Сачман показывает, что приписывание машине человеческих свойств не безобидно: оно перераспределяет ожидания и ответственность. Если система «понимает» и «помогает», то её неудача выглядит как её личная неудача, а не как решение тех, кто её спроектировал и внедрил.
Какого пользователя эта система в себя вписала — и кто в этот образ не попадает?
Связь с занятием. Воркшоп недели 12 — прикладная версия этого тезиса. Вы берёте корпоративного бота и снимаете с него человеческие черты там, где они не несут функции. Аргумент «уберите лицо» звучит убедительнее, если вы можете объяснить, что именно лицо делает с ожиданиями пользователя.
К неделе 14 · конспект-выдержка 8 страниц
Кто. Шошана Зубофф — исследовательница из Гарвардской школы бизнеса. Её книга описывает бизнес-модель, в которой сырьём становится поведение людей.
О чём. О различении, ради которого мы её и читаем. Зубофф противопоставляет две формы власти. Тоталитаризм действует через страх и подчиняет изнутри — ему нужно, чтобы вы верили. То, что она называет инструментариатом, работает иначе: ему не нужны ваши убеждения, ему нужно ваше предсказуемое поведение. Он не запрещает и не наказывает — он настраивает среду так, чтобы вы выбрали то, что нужно.
Где в описываемых механизмах проходит граница между «мне подсказали» и «за меня решили» — и заметна ли она изнутри?
Осторожно. Книга написана сильным полемическим языком, и её выводы — предмет продолжающегося спора. Часть исследователей считает, что автор переоценивает единство и замысел описываемой системы. Для нашего курса это не проблема, а материал: сравните оптику Зубофф с оптикой Латура и посмотрите, что каждая делает видимым, а что теряет.
Связь с занятием. Неделя 14 — синтез и подготовка защиты. Четвёртый уровень выгоды в вашем проекте называется властным. Зубофф даёт язык для разговора о том, как власть перераспределяется без единого запрета и без единого приказа.
После каждого текста напишите пять предложений по схеме:
Данные позволяют…
Модель или процедура классифицирует…
Организация использует результат, чтобы…
Человек сталкивается с…
Возражение возможно или невозможно, потому что…
Пять предложений — это и есть проверка того, что чтение состоялось. Если схема заполняется, вы поняли текст достаточно для курса. Если где-то провал — это и есть вопрос на семинар.
Выдержки выдаются отдельным файлом в LMS в объёме учебного цитирования, с полным библиографическим описанием и указанием переводчика. Этот навигатор их не заменяет и не пересказывает: он задаёт рамку чтения. На семинаре полезно начинать обсуждение не с вопроса «что вы прочитали», а с проверки пяти предложений из последнего раздела — так сразу видно, кто читал, а кто просмотрел аннотацию.