Apple и Google сталкиваются с давлением с требованием удалить приложения искусственного интеллекта, создающие

Apple и Google сталкиваются с давлением с требованием удалить приложения AI «Nudify» из магазинов приложений

Технологические гиганты Apple и Google сталкиваются с растущим давлением с требованием удалить приложения на базе искусственного интеллекта, способные без согласия создавать откровенные изображения людей. Спрос возникает на фоне растущей обеспокоенности по поводу этических последствий и потенциального неправильного использования таких технологий.

Рост приложений Nudify на базе искусственного интеллекта

Приложения с искусственным интеллектом для «обнажения» стали тревожной тенденцией в цифровой среде: они используют передовые алгоритмы машинного обучения для цифрового удаления одежды с изображений людей, часто без их согласия или ведома. Эти приложения обычно позволяют пользователям загружать фотографии людей, которые затем обрабатывает ИИ для создания реалистичного, но сфабрикованного откровенного контента.

Распространение таких приложений поднимает серьезные этические и юридические вопросы, поскольку они могут использоваться для преследования, порномести и других форм цифрового злоупотребления. Технологии, лежащие в основе этих приложений, становятся все более сложными, из-за чего становится все труднее отличить подлинные изображения от подделанных.

Официальные требования об удалении

Защитные группы и организации по защите цифровых прав официально потребовали, чтобы Apple App Store и Google Play Store удалили эти приложения со своих платформ. В требованиях подчеркивается нарушение условий обслуживания и потенциальный вред, причиняемый этими технологиями.

"Эти приложения способствуют созданию контента сексуального характера без согласия, что не только неэтично, но и незаконно во многих юрисдикциях", - заявили представители коалиции по защите цифровых данных. «И Apple, и Google несут ответственность за предотвращение использования своих платформ для распространения такого вредоносного контента».

Текущий статус на платформах приложений

По последним данным, несколько вариантов приложений для обнажения с помощью ИИ по-прежнему доступны как в App Store, так и в Google Play Store, несмотря на то, что они нарушают правила платформы. Чтобы избежать обнаружения, приложения часто используют вводящие в заблуждение названия и описания, иногда позиционируя себя как «художественные инструменты» или «фоторедакторы» с явно выраженными возможностями.

В таблице ниже представлено сравнение ситуации на обеих платформах:

Юридические и этические последствия

Существование приложений для обнажения тела с помощью искусственного интеллекта поднимает сложные юридические вопросы во многих юрисдикциях. Во многих странах действуют законы, запрещающие порнографию без согласия и злоупотребление изображениями, но быстрое развитие технологий искусственного интеллекта привело к появлению пробелов в законодательстве.

Эксперты по правовым вопросам предупреждают, что эти приложения могут нарушать множество законов, в том числе:

Законодательство о порномести

Законы о защите конфиденциальности.

Законы о сексуальной эксплуатации и надругательстве

Права интеллектуальной собственности

С этической точки зрения эти приложения представляют собой тревожное пересечение технологий и человеческого достоинства, потенциально нормализуя нарушение конфиденциальности и согласия в цифровых пространствах.

Предыдущие действия Apple и Google

И Apple, и Google в прошлом сталкивались с аналогичными проблемами, связанными с вредоносными приложениями. В предыдущих случаях компании демонстрировали разные подходы к модерации контента:

Apple: исторически применяет более строгий процесс проверки приложений, часто удаляя приложения, нарушающие стандарты конфиденциальности или приличия, быстрее, чем Google.

Google: подвергается критике за более медленное время реакции на проблемный контент, хотя в последние годы компания ввела более агрессивную политику.

Обе компании придерживаются политики в отношении приложений, которые способствуют распространению сексуального контента без согласия, но быстрое появление инструментов на базе искусственного интеллекта создало новые проблемы для обеспечения соблюдения требований.

Реакция отрасли и мнения экспертов

В технологической отрасли разделились мнения о том, как подходить к распространению приложений для обнажения с помощью ИИ. Некоторые выступают за немедленное удаление и более строгую модерацию, другие предлагают более тонкий подход, направленный на устранение коренных причин таких технологий.

"Эти приложения — лишь верхушка айсберга", – говорит доктор Елена Родригес, исследователь цифровой этики в Международном технологическом институте. «Нам необходимо подумать не только об их удалении, но и о разработке методов обнаружения манипулируемого контента и информировании пользователей о существовании и потенциальном влиянии таких технологий».

Защитники конфиденциальности утверждают, что ответственность за предотвращение доступа таких приложений к пользователям ложится в первую очередь на поставщиков платформ, в то время как технологи предполагают, что более эффективные методы обнаружения ИИ могут помочь идентифицировать и блокировать создание откровенного контента без согласия.

Перспективы на будущее и последствия для политики

Ситуация с приложениями для обнажения на основе искусственного интеллекта может побудить Apple и Google пересмотреть свои политики модерации контента и потенциально ввести более строгие процессы проверки для приложений на основе искусственного интеллекта. Это может включать в себя:

Расширенные возможности обнаружения ИИ для выявления потенциально вредоносных приложений.

Более строгие правила для инструментов обработки изображений на базе искусственного интеллекта.

Расширение сотрудничества с правоохранительными органами в борьбе с незаконным использованием.

Разработка кампаний по информированию пользователей о цифровом согласии и конфиденциальности.

Исход этой ситуации может создать прецедент для того, как технологические компании будут обращаться с аналогичными приложениями на базе искусственного интеллекта, которые вызовут этические проблемы в будущем.

Заключение

Требование к Apple и Google удалить приложения для обнажения людей с помощью искусственного интеллекта подчеркивает растущее противоречие между технологическими инновациями и этическими границами. Поскольку искусственный интеллект продолжает развиваться быстрыми темпами, поставщики платформ сталкиваются с растущим давлением, требующим, чтобы их услуги не способствовали нанесению вреда или не нарушали фундаментальные права на конфиденциальность и согласие.

Хотя обе компании имеют политику в отношении таких приложений, их эффективность в предотвращении появления этих приложений в их магазинах еще предстоит выяснить. Решение этой проблемы, вероятно, повлияет на то, как подобные дела будут рассматриваться в будущем, и может способствовать разработке более комплексных рамок для управления приложениями ИИ на цифровых рынках.

Apple и Google столкнулись с требованием удалить приложения ИИ «Nudify» через MacRumors: Новости Mac и слухи — все истории https://ift.tt/t10iUEd Apple и Google столкнулись с требованием отказаться от приложений AI «Nudify» через MacRumors: Новости Mac и слухи — все истории https://ift.tt/t10iUEd

Платформа	Количество заявленных приложений Nudify	Приложения удалены	Оставшиеся приложения	Время ответа на запросы на удаление
Apple App Store	24	18	6	48–72 часа
Магазин Google Play	37	22	15	24–48 часов