Yarn Spinner команда на основе трудовых прав и этики разработки отвергает интеграцию ИИ. Они критикуют существующие технологии, превращающиеся в инструменты сокращения штатов, отклоняясь от первоначальной идеи помощи в творчестве.
(Предыстория: 5 строк кода, сводящих с ума весь Кремний-Вэй! Австралийский пастух раскрывает AI-столкновение точек сингулярности)
(Дополнительный фон: OpenAI, по слухам, вложили 3 миллиарда долларов в приобретение «автоматического программного инструмента Windsurf», чтобы захватить крупный рынок Vibe Coding)

Содержание статьи

• Прошлое

• Будущее

• Возможные вопросы (FAQ)

Для многих разработчиков в инди-игровой индустрии чрезвычайно важна позиция Yarn Spinner — открытого инструмента для повествовательных сценариев. В этом официальном заявлении команда искренне и твердо объясняет, почему они выбрали отказ от внедрения генеративного ИИ в свой инструмент.

Они рассматривают вопрос не только с технической стороны, но и с точки зрения трудовых прав, этики разработки и «сущности игрового дизайна». В нынешней индустрии, погруженной в технологические тренды, это может стать поводом для размышлений.

Ниже приводится полный перевод содержимого статьи:

Нас часто спрашивают о ИИ. Будем ли мы его добавлять в Yarn Spinner? Используем ли мы его сами? Что мы о нем думаем? Все эти вопросы вполне справедливы. Пора их зафиксировать.

Yarn Spinner не использует современные технологии, называемые «ИИ». В нашем продукте нет функций генеративного ИИ, мы не используем инструменты автоматической генерации кода для его построения и не принимаем вкладов, содержащих сгенерированный контент. Объясним почему.

TL;DR: Инструменты, создаваемые компаниями ИИ, наносят вред людям, и мы не хотим поддерживать такие действия.

Прошлое

Начнем с истории. Наш опыт включает значительный объем работы с ИИ и машинным обучением (хотя эти термины не всегда корректно разделять, поскольку их часто путают).

Мы проводили лекции для разработчиков игр и непрофессионалов; создавали небольших роботов на базе машинного обучения для игр; занимались исследованиями и академической работой. Мы даже писали книги о применении машинного обучения в играх, в основном о процедурной анимации. Это были очень интересные и перспективные технологии, и мы их действительно исследовали.

Когда мы поступили в университет, нейронные сети и глубокое обучение — основные технологии современного ИИ — были слишком медленными и сложными для использования. К моменту защиты кандидатских диссертаций ситуация изменилась. Инструменты вроде TensorFlow сделали все проще и интереснее, а доступность GPU позволила даже без бюджета крупной компании тренировать модели и выполнять выводы. В течение долгого времени мы были искренне взволнованы этим потенциалом.

Затем ситуация изменилась.

Трудно сказать, когда именно. Возможно, так было всегда, и мы просто не замечали. Но к концу 2020 года стало очевидно: ИИ, который нам нравился, — это не то, что интересует технологические гиганты.

Они все больше сосредотачиваются на генеративных изображениях, чат-ботах, помогающих писать тексты, и «суммировании» искусства, а не на «прикосновении» к нему. Усилия по решению известных проблем (таких как усиление культурных предубеждений, сложности в обеспечении определенности и объяснимости) умаляются и игнорируются. Исследователи и разработчики, выражающие сомнения, увольняются.

С тех пор ситуация только ухудшается.

Если взглянуть на то, что сейчас продвигают компании ИИ, — это не то, что нам нужно. Когда вы раскроете все их слова, станет ясно: создаваемые ими инструменты по сути либо предназначены для сокращения сотрудников, либо требуют большего объема работы без найма новых людей. Вот «проблема», которую они хотят решить.

Все остальные достижения — это лишь случайные побочные эффекты на пути к «максимальному сокращению ваших коллег и друзей».

В эпоху, когда переобучение и безработица особенно остры, а потеря работы может угрожать жизни, ИИ стал инструментом «увольнения людей». Мы не хотим быть частью этого. Пока не решены эти проблемы, мы не будем использовать ИИ в работе и не будем интегрировать его в Yarn Spinner для других.

Мы не хотим поддерживать компании, создающие такие инструменты, и не хотим делать их повседневной нормой. Поэтому мы не используем их.

Будущее

Иногда можно услышать комментарии вроде «фактически это уже так» — «если не используешь ИИ, тебя оставят позади», или его родственников: «все используют его»… Мы с этим не согласны.

Как бы мы ни относились к ИИ, это не правильный путь разработки. Это «разработка с помощью инструментов». Цель всегда должна быть не «использовать этот инструмент», а «как помочь вам создавать лучшие игры?».

Великие игры рождаются из страсти к определенной идее и воплощения ее в реальность. Обычно это означает «уменьшение» — а не «увеличение». Важны изменение мышления, забота о себе и коллегах, готовность к адаптации и принятию обратной связи. Хорошие инструменты должны этому способствовать.

Мы постоянно спрашиваем себя: «Как это поможет создавать лучшие игры?» и идем за ответом. Исследования важны, и зачастую мы обнаруживаем, что многие идеи не выдерживают даже минимальной критики. Мы предпочитаем иметь несколько изящных функций, решающих реальные проблемы, чем множество мусора для маркетинга.

Мы гордимся Yarn Spinner. Мы не считаем его использование в так множестве игр случайностью. Наш процесс разработки эффективен, и мы постоянно добавляем новые функции. Если какая-то функция не подходит разработчикам, мы исправляем или удаляем ее.

Мы постоянно обсуждаем с внутренней командой, другими разработчиками и даже непрофессионалами идеи и подходы. Мы продолжаем спрашивать: «Как это поможет создавать лучшие игры?» и публикуем только проверенные решения.

Кто знает, может, мир изменится, и мы снова сможем вернуться к машинному обучению.

Какие вопросы могут возникнуть (FAQ)

Почему вы так заботитесь только о людях, которых увольняют? Я слышал, что ИИ плохо влияет и в других сферах!
ИИ (особенно компании, его создающие) имеет множество проблем. Некоторые — скрытые, гипотетические; некоторые — очень реальные и происходящие прямо сейчас. Некоторые проблемы гораздо серьезнее «увольнения». С момента написания этого блога и до его публикации возникли еще более тяжелые вопросы. Даже если вдруг исчезнут трудовые споры, еще много проблем, которые нужно решить, прежде чем мы сможем безопасно использовать ИИ. Но лучше сосредоточиться на одной проблеме за раз. Вопросы трудовых прав можно исправить и должны быть отвергнуты. Когда это будет сделано, перейдем к следующему.

Почему вы не «правильно» развиваете машинное обучение, чтобы никто не пострадал?
Учитывая наш опыт, мы могли бы создать набор инструментов, которые считаем этичными и полезными, и не поддерживают компании, с которыми не согласны. Но есть две проблемы: во-первых, это требует много времени, а большинство идей не проходят начальную проверку. Балансировать исследование и создание новых моделей очень сложно. Во-вторых, большинство людей не смогут это сделать. Если кто-то увидит, что мы используем определенную технологию и захочет попробовать, он, скорее всего, поддержит те компании, с которыми мы боремся. Мы не хотим делать это нормой, поэтому должны показывать пример и не использовать такие инструменты.

Мой начальник требует, чтобы я использовал ИИ на работе, я тоже часть проблемы?
Поиск работы и сохранение работы — необходимость для выживания, и давление в этом плане растет. Если вы можете выразить протест — делайте это. Но никто не осудит вас за желание сохранить работу.

Вы запретите использовать Yarn Spinner тем, кто использует ИИ?
Нет. Хоть мы и хотим, чтобы вы не использовали его, мы понимаем, что это — «наша» граница, а не ваша. Мы продолжим выступать против этих инструментов и их вреда. Вы должны понимать: если вы их используете, вы экономически и социально поддерживаете тех, кто занимается плохими делами. Они используют вашу поддержку для продвижения своих целей. Если эти инструменты помогают вам — мы искренне рады, но просим вас прекратить их использование.

Мне нравится использовать ИИ, и в моей компании никто не уволен?
Такие комментарии часто исходят от программистов. К сожалению, из-за путаницы с термином «ИИ» те же опасения остаются актуальными. Ваша поддержка способствует популяризации компаний, создающих эти инструменты. Другие увидят, что вы их используете, и заставят коллег тоже. В результате — сокращения и переработки. Если это не происходит у вас — отлично, но вы все равно помогаете этому случиться в других местах. И даже если завтра трудовые вопросы решатся, останутся другие проблемы. Помимо увольнений, есть много других опасностей.

Вы — фанатики или луддиты, ненавидящие ИИ?
Нет. Мы просто злимся на тех, кто создает эти вещи. ИИ и машинное обучение имеют огромный потенциал, но сейчас они тратятся на то, чтобы богатые становились еще богаче и еще более подлыми. Мы продолжаем следить за развитием технологий, потому что хотим однажды снова к ним вернуться. Но на данный момент те, кто продвигает эти инструменты, — не те, кому мы хотим давать деньги или поддержку.