Вступаем ли мы в эпоху нигилизма данных?

Hill Street Studios — Getty Images

Каждый клик, каждая фотография, каждый поисковый запрос, который мы делаем, создают цифровое эхо. Эти цифровые следы — сырье, питающее революцию в области искусственного интеллекта, движущее силой технологий, которые меняют наш мир. Однако для тех, кто их создает — для всех нас — эти данные стали функционально бесполезными.

Среднестатистический интернет-пользователь не задумывается о ценности своих данных. Он просто бесплатно отдает их некоторым из самых богатых компаний мира.

Из-за такого поведения я опасаюсь, что мы живем в эпоху нигилизма данных, когда наши данные значат всё для разработчиков ИИ, но почти ничего для нас — не потому, что наши данные действительно бесполезны, а потому, что люди чувствуют себя бессильными остановить их сбор против их воли.

Когда я только начинал свою лабораторию исследований этики ИИ, многие в исследовательском сообществе ИИ скептически относились к раннему подходу OpenAI. Смогут ли они действительно достичь уровня ИИ, сопоставимого с человеческим, просто за счет масштабирования данных и вычислительной мощности, без более глубоких теоретических знаний? Это казалось стратегией, основанной скорее на капитале, чем на науке.

Однако OpenAI в итоге одержала верх. Их успех доказал простую, хотя и тревожную, формулу: огромные массивы данных плюс колоссальная вычислительная мощность равны беспрецедентным возможностям ИИ. Глобальная гонка ИИ быстро превратилась, по сути, в гонку вооружений на основе данных.

Золотая лихорадка, ориентированная на данные, имеет исторические корни, начиная с революции глубокого обучения 2010-х годов, которая, в свою очередь, была вызвана наборами данных, собранными из интернета, такими как ImageNet, показавшими, что доступность данных может значительно улучшить производительность ИИ. Но сегодня масштабы другие, и ставки тоже. По иронии судьбы, стремительный рост ценности ИИ произошел за счет данных, которые его подпитывают. Чтобы выиграть гонку за лидерство в сфере ИИ, компании получают стимулы к сбору данных, практически не обращая внимания на права их создателей — такой подход негласно поддерживают регулирующие органы в США, Японии и Индии, которые готовы ослабить защиту данных для ускорения национального развития ИИ.

Это повсеместное лишение прав привело к опасному явлению: нигилизму данных. Это растущее убеждение, что наши данные потеряли свой смысл и ценность, потому что мы потеряли над ними всякий контроль. Это смирение с тем, что жизнь в эпоху ИИ требует полного отказа от контроля над нашими данными. Когда наша цифровая жизнь безжалостно извлекается без нашего согласия или компенсации, вполне логично считать, что наши права на данные исчезли. Фактически, исследование Pew Research Center 2023 года показало, что, несмотря на то, что 81% американцев выражают обеспокоенность по поводу того, как компании используют их данные, 73% считают, что они практически не контролируют их.

Нигилизм данных — это не просто философская проблема, это план одного из величайших перераспределений богатства в современной истории. ИИ действует как гигантская воронка, выкачивая ценность из данных миллиардов интернет-пользователей и цифровых медиа и концентрируя огромные экономические выгоды в руках нескольких компаний, создающих фундаментальные модели. Это не только утрата неприкосновенности частной жизни и интеллектуальной собственности, но и форма массового экономического бесправия.

Подобно тому, как Ницше предупреждал об опасностях нигилистической моральной пустоты, ведущей к упадку общества, нынешнее пренебрежение ответственным подходом к обработке данных может подорвать доверие к институциям и увековечить системное неравенство.

Однако не все готовы принять это масштабное перераспределение богатства и власти без борьбы. Креативные индустрии находятся на передовой: авторы, художники и музыканты подают десятки исков против крупных компаний, занимающихся искусственным интеллектом, за нарушение авторских прав. Параллельно волна судебных разбирательств в рамках законов о конфиденциальности, таких как Закон штата Иллинойс о защите биометрической информации (BIPA), оспаривает несанкционированное использование наших самых личных данных — наших лиц и голосов.

Это приводит нас к критическому перекрестку: пожертвовать нашими правами на данные ради технологического прогресса или защитить их и отстать в глобальной гонке искусственного интеллекта. Это ложная дихотомия. Существует третий путь: этические инновации.

Сбор данных для разработки ИИ возможен и должен осуществляться с согласия участников и при справедливом вознаграждении — моя команда, кстати, показала, как это можно сделать на практике. В дальнейшем исследователям следует работать с платными участниками со всего мира, давшими согласие на участие, чтобы создавать высококачественные наборы данных, которые сообщество ИИ сможет использовать ответственно.

Создание наборов данных для передового ИИ возможно без ущерба для прав личности. «Этичное происхождение» не должно быть препятствием для инноваций, а должно стать отличительной чертой их качества и устойчивости.

Следующим шагом должно стать серьезное отношение сообщества ИИ и регулирующих органов к этичному управлению данными. Динамика экономической власти между ИИ и людьми будет в значительной степени определяться на уровне данных, и поэтому вопросы согласия и механизмов компенсации для правообладателей данных должны стать одним из главных направлений работы исследователей и регулирующих органов в области ИИ. Создание схем с возможностью выбора, обеспечивающих значимый контроль для людей во всем мире, чьи данные служат исходным материалом для ИИ, — сложная, но крайне важная задача, которую необходимо решить уже сейчас. Более того, по мере того как разработчики ИИ будут исчерпывать доступные данные, будущие инновации, вероятно, будут зависеть от качества, а не просто от количества данных.

Лекарством от нигилизма по Ницше было создание личного смысла, но масштабы ИИ требуют создания систем, которые подтверждают и защищают ценность вклада человечества. Мы сейчас находимся на переломном этапе: если мы не сможем создать такие механизмы защиты, мы смиримся с будущим, где преимущества ИИ будут сосредоточены в руках немногих, а подавляющее большинство людей сочтут свой вклад бесполезным. Будущее ИИ не должно строиться на фундаменте массового присвоения данных. Оно должно строиться на фундаменте уважения, согласия и общей ценности. Эпоха нигилизма данных уже наступила; от нас зависит, предотвратим ли мы её.