Лента коротких видео

Пользователь посмотрел несколько роликов о тревожности. Через неделю лента почти целиком состоит из похожего контента, часть — с категоричными советами.

Где здесь чёрный ящик и какого он типа? · Кто акторы, включая не-людей? · Где доверие должно быть калиброванным?

Антифрод банка

Карту заблокировали при первой же покупке в другом городе. Разблокировка — через звонок и подтверждение личности, деньги недоступны сутки.

Где здесь чёрный ящик и какого он типа? · Кто акторы, включая не-людей? · Где доверие должно быть калиброванным?

Скоринг по рассрочке

Магазин отказал в рассрочке. В уведомлении сказано «решение принято на основании оценки». Сотрудник в зале говорит, что повлиять не может.

Где здесь чёрный ящик и какого он типа? · Кто акторы, включая не-людей? · Где доверие должно быть калиброванным?

Распознавание лица при входе в услугу

Система не подтвердила личность с третьей попытки. Альтернативный способ подтверждения в интерфейсе не предложен.

Где здесь чёрный ящик и какого он типа? · Кто акторы, включая не-людей? · Где доверие должно быть калиброванным?

Автомодерация фотографии

Снимок удалён как нарушение правил. Какое именно правило нарушено, автору не сообщили. Апелляция уходит в ту же систему.

Где здесь чёрный ящик и какого он типа? · Кто акторы, включая не-людей? · Где доверие должно быть калиброванным?

Голосовой помощник дома

Помощник оформил заказ по команде, которую произнёс ребёнок. Списание прошло с привязанной карты владельца.

Где здесь чёрный ящик и какого он типа? · Кто акторы, включая не-людей? · Где доверие должно быть калиброванным?

Автоподбор откликов на вакансию

Отклик кандидата не дошёл до рекрутера: система отранжировала его ниже порога показа. Кандидат об этом не узнал.

Где здесь чёрный ящик и какого он типа? · Кто акторы, включая не-людей? · Где доверие должно быть калиброванным?

Прокторинг на онлайн-экзамене

Система отметила поведение студента как подозрительное: он отводил взгляд. Работа отправлена на ручную проверку, результат задержан на две недели.

Где здесь чёрный ящик и какого он типа? · Кто акторы, включая не-людей? · Где доверие должно быть калиброванным?

Автообзвон по задолженностям

Робот звонит по списку, сформированному автоматически. В список попал человек, уже погасивший долг три дня назад.

Где здесь чёрный ящик и какого он типа? · Кто акторы, включая не-людей? · Где доверие должно быть калиброванным?

Персональная цена в маркетплейсе

Один и тот же товар показан двум пользователям по разной цене. Различие объясняется историей покупок и устройством.

Где здесь чёрный ящик и какого он типа? · Кто акторы, включая не-людей? · Где доверие должно быть калиброванным?

Распределение заказов курьерам

Алгоритм назначает маршруты и определяет оплату. Курьер замечает, что после отказа от одного заказа выгодные предложения приходят реже.

Где здесь чёрный ящик и какого он типа? · Кто акторы, включая не-людей? · Где доверие должно быть калиброванным?

Чат-бот техподдержки оператора

Бот ведёт по сценарию и не выпускает к человеку. Проблема пользователя в сценарий не попадает.

Где здесь чёрный ящик и какого он типа? · Кто акторы, включая не-людей? · Где доверие должно быть калиброванным?

Автоматика отопления в здании

Система снизила температуру по расписанию, не учтя аномальный мороз. Заявка от жильцов обрабатывается по обычному регламенту.

Где здесь чёрный ящик и какого он типа? · Кто акторы, включая не-людей? · Где доверие должно быть калиброванным?

Ранжирование заказов в такси

Водителю перестали приходить длинные заказы. Формула ранжирования не публикуется; в поддержке отвечают, что «всё работает штатно».

Где здесь чёрный ящик и какого он типа? · Кто акторы, включая не-людей? · Где доверие должно быть калиброванным?

Автопроверка домашних работ в LMS

Балл выставлен автоматически. Студент не согласен, но пересмотр требует обращения к преподавателю, который видит только итоговое число.

Где здесь чёрный ящик и какого он типа? · Кто акторы, включая не-людей? · Где доверие должно быть калиброванным?

Распознавание номеров на парковке

Штраф выписан за номер, похожий на номер автомобиля другого человека. Оспаривание — через письменное заявление в течение десяти дней.

Где здесь чёрный ящик и какого он типа? · Кто акторы, включая не-людей? · Где доверие должно быть калиброванным?

Скрининг медицинского снимка

Система пометила снимок как норму. Врач подтвердил, не пересматривая: очередь большая, а совпадение с системой считается хорошим показателем.

Где здесь чёрный ящик и какого он типа? · Кто акторы, включая не-людей? · Где доверие должно быть калиброванным?

Маршрутизация обращений в ведомство

Заявление ушло не в тот отдел. Срок ответа при этом продолжает течь с даты подачи, а не с даты попадания к исполнителю.

Где здесь чёрный ящик и какого он типа? · Кто акторы, включая не-людей? · Где доверие должно быть калиброванным?

Лента вакансий на платформе

Соискателю показывают часть вакансий и не показывают другие. Критерии отбора в интерфейсе не раскрываются.

Где здесь чёрный ящик и какого он типа? · Кто акторы, включая не-людей? · Где доверие должно быть калиброванным?

Голосовой робот в поликлинике

Запись к врачу идёт через робота. Пожилой человек не может пройти сценарий и кладёт трубку; статистика фиксирует это как отказ от записи.

Где здесь чёрный ящик и какого он типа? · Кто акторы, включая не-людей? · Где доверие должно быть калиброванным?

Контроль рабочего времени

Система делит часы сотрудника на продуктивные и непродуктивные по активности в приложениях. Отчёт видит руководитель, сотрудник — нет.

Где здесь чёрный ящик и какого он типа? · Кто акторы, включая не-людей? · Где доверие должно быть калиброванным?

Автоперевод юридического документа

Термин переведён неточно. Документ ушёл контрагенту без вычитки: перевод «выглядел уверенно».

Где здесь чёрный ящик и какого он типа? · Кто акторы, включая не-людей? · Где доверие должно быть калиброванным?

Автоповышение кредитного лимита

Лимит по карте повышен без запроса клиента. Уведомление пришло постфактум, отказаться можно через приложение.

Где здесь чёрный ящик и какого он типа? · Кто акторы, включая не-людей? · Где доверие должно быть калиброванным?

Плейлист «для вас» в стриминге

Подборка формируется автоматически. Музыкант замечает, что его треки перестали попадать в подборки после смены жанра.

Где здесь чёрный ящик и какого он типа? · Кто акторы, включая не-людей? · Где доверие должно быть калиброванным?

Фильтр спама в корпоративной почте

Письмо клиента с вложением не дошло до менеджера. Отправитель уведомления о недоставке не получил.

Где здесь чёрный ящик и какого он типа? · Кто акторы, включая не-людей? · Где доверие должно быть калиброванным?

ИИ-подсказчик в редакторе кода

Разработчик принял предложенный фрагмент. Он попал в рабочую систему и через месяц вызвал сбой на редком наборе данных.

Где здесь чёрный ящик и какого он типа? · Кто акторы, включая не-людей? · Где доверие должно быть калиброванным?

Видеоаналитика в магазине

Система считает посетителей и отмечает «подозрительное поведение». По отметке к человеку подходит охранник.

Где здесь чёрный ящик и какого он типа? · Кто акторы, включая не-людей? · Где доверие должно быть калиброванным?

Автопродление подписки

Подписка продлена автоматически. Уведомление пришло на почту, попавшую в промоакции; списание обнаружено через два месяца.

Где здесь чёрный ящик и какого он типа? · Кто акторы, включая не-людей? · Где доверие должно быть калиброванным?

Автораспределение по учебным группам

Алгоритм распределил студентов по группам с учётом успеваемости. Часть студентов оказалась в группе, где темп заметно выше их подготовки.

Где здесь чёрный ящик и какого он типа? · Кто акторы, включая не-людей? · Где доверие должно быть калиброванным?

Агент, который бронирует и платит

Ассистент самостоятельно забронировал и оплатил невозвратный билет не на ту дату. Пользователь узнал об этом из письма о списании.

Где здесь чёрный ящик и какого он типа? · Кто акторы, включая не-людей? · Где доверие должно быть калиброванным?