В этой книге я утверждаю обратное: внутренний код ИИ заключается в имитации не биологического разума, а разумности труда и общественных отношений.
Согласно господствующей точке зрения речь идет о попытке «разгадать загадку разумности» [intelligence].
Нужен не техно-солюционизм и не техно-пауперизм, а культура изобретательства, конструирования и планирования, которые направлены на заботу о сообществах и коллективе и никогда полностью не отказываются от агентности и интеллекта в пользу автоматизации. Первый шаг технополитики должен быть не технологическим, а политическим. Речь идет об эмансипации и деколонизации, а то и о полном упразднении организации труда и социальных отношений, на которых основаны сложные технические системы, промышленные роботы и социальные алгоритмы, в частности их встроенные системы оплаты труда, права собственности и политика идентичности. Новые технологии для труда и общества можно основать только на подобной политической трансформации. Понятно, что этот процесс подразумевает развитие не только технических, но и политических знаний. Одно из проблемных последствий ИИ для общества заключается в его эпистемическом влиянии — в том плане, как он представляет разумность как машинный интеллект и неявно развивает знание как процедурное.
Противостоя эпистемологии ИИ и его режиму экстрактивизма знания, необходимо научиться иному техническому мышлению — коллективному «контр-интеллекту».
В основе трудовой теории автоматизации лежит практика социальной автономии. Технологии можно оценивать, оспаривать, повторно присваивать и заново изобретать, только перемещаясь в матрицу социальных отношений, которые их образовали. Альтернативные технологии нужно разместить в этих социальных отношениях, также как это делали кооперативные движения в минувшие столетия. Но создать альтернативные алгоритмы не означает сделать их более этичными. Например, жестко закодировать этические правила в ИИ и роботах представляется крайне недостаточным и неполным решением, поскольку это предложение не касается напрямую широкой политической функции автоматизации, лежащей в их основе[572].
трудовая теория автоматизации служит аналитическим принципом для изучения нового «хозяйского глаза», воплощенный в монополиях ИИ.
исследовательская инициатива Лилли Ирани Turkopticon,
которая «прерывает невидимость работника» гиг-платформы Amazon Mechanical Turk; исследование обучающих наборов данных для распознавания лиц Адама Харви, которое выявило массовые нарушения конфиденциальности в ИИ-корпорациях и академических исследованиях; работу коллектива Politically Mathematics из Индии, который проанализировал экономическое влияние прогностических моделей COVID-19 на беднейшие слои населения и превратил математику в поле политической борьбы (см. их манифест, процитированный в эпиграфе) и проч.[570]
Чтобы критиковать и деконструировать сложные артефакты, такие как монополии ИИ, мы сначала должны провести кропотливую работу по деконнекционизму, расплести — шаг за шагом, файл за файлом, набор данных за набором данных, фрагмент метаданных за фрагментом метаданных, корреляцию за корреляцией, паттерн за паттерном — социальную и экономическую ткань, из которой они состоят. Эту работу уже ведет новое поколение ученых, анализирующих глобальный производственный конвейер ИИ, в особенности те, кто использует методы исследования в действии (action research).
Как показывает теория автоматизации, представленная в этой книге, любая технология и институциональный аппарат, включая ИИ, представляют собой кристаллизацию производительного социального процесса. Проблемы возникают из-за того, что кристаллизация «окостеневает» и воспроизводит прошлые структуры иерархии и неравенства.
Возникает вопрос, какова вероятность политического вмешательства в такое технологически согласованное пространство и остается ли призыв низовых и институциональных инициатив к «перестройке ИИ» разумным и осуществимым. Этот призыв должен прежде всего ответить на более насущный вопрос: как «перестроить» крупномасштабные монополии данных и знаний?[568] По мере того, как крупные компании (Amazon, Walmart, Google) получают уникальный доступ к потребностям и проблемам всего социального тела, растущее движение требует не просто сделать эти инфраструктуры более прозрачными и подотчетными, но и фактически превратить их в общедоступные сервисы (как предложил, в частности, Фредрик Джеймисон) или заменить общедоступными альтернативами (на чем настаивает Ник Срничек)[569]. Как же разработать такие альтернативы?