Это событие вызвало широкую дискуссию о конфиденциальности данных, национальной безопасности и растущем влиянии китайских технологических компаний на международном рынке.
Путь Talkie не был гладким. В Китае ранняя версия приложения, Glow, столкнулась с резкой критикой из-за откровенного контента, что привело к его удалению и последующему ребрендингу. Пользователи вскоре поняли, что их разговоры находятся под пристальным наблюдением, что резко контрастировало со свободной атмосферой чата в США. Китайский аналог Talkie, Xingye, был удален из магазинов приложений из-за откровенного контента и должен был перезапуститься со строгими фильтрами контента, как сообщала Wall Street Journal. Xingye был запущен для китайского рынка.
Причины проблем Talkie стали очевидными из нескольких отчетов, поступивших из США. Против чат-бота выдвинуты серьезные обвинения в том, что он является прикрытием для китайской правящей партии. Эксперты по китайским делам заявили, что Коммунистическая партия Китая (КПК) поддержала быстрое распространение Talkie на западных рынках, и что приложение несет в себе скрытые элементы неограниченной войны Китая против Запада. Конфиденциальность данных, национальная безопасность и модерация контента являются основными причинами отзыва приложения. Тан Цзинъюань, китайский обозреватель и колумнист, заявил, что, по его мнению, влияние китайского режима сыграло ключевую роль в быстром росте Talkie на рынке США.
Самое ироничное в этом приложении то, что оно входило в шестерку лучших развлекательных приложений в июле, а через пять месяцев было удалено из App Store, что вызвало подозрения относительно его надежности. Компания MiniMax до сих пор не дала никаких объяснений, что заставляет пользователей и отраслевых экспертов строить догадки относительно точных причин этого решения. Это событие перекликается с предыдущими случаями, когда китайские приложения, такие как TikTok, подвергались строгим регулирующим действиям на западных рынках из-за аналогичных опасений.
Опасения по поводу китайских технологических компаний усилили контроль над тем, как эти приложения обрабатывают данные пользователей. Правительство США и регулирующие органы стали настороженно относиться к возможности наблюдения за данными и их неправомерного использования, особенно с учетом законов Китая, которые обязывают компании предоставлять информацию правительству по запросу. Это беспокойство небезосновательно, поскольку данные, собранные у миллионов пользователей, могут быть использованы для различных целей, включая шпионаж и пропаганду.
Кроме того, возможности модерации контента приложений на основе ИИ, таких как Talkie, находятся под пристальным вниманием США и других западных стран. Возможность таких платформ генерировать и распространять дезинформацию или вредоносный контент представляет значительную опасность, особенно когда они нацелены на молодую, более впечатлительную аудиторию. Этические последствия эмоциональной зависимости пользователей от ИИ-компаньонов еще больше усложняют ситуацию, поднимая вопросы о психическом здоровье и социальном воздействии повсеместного взаимодействия с ИИ.
Согласно статье на Toolify.ai, посетители могли легко получить доступ к многочисленным сценам с участием несовершеннолетних и детей в приложении Talkie. Эти взаимодействия являются не чем иным, как зверством, превращая приложение в симулятор жестокого обращения с детьми, а не в платформу для рассказывания историй. Еще одним тревожным моментом в приложении было отсутствие ответственности и подотчетности со стороны разработчика, Subs Up Ltd. Платформа приложения не имеет никаких сдержек и противовесов в отношении персонажей и контента, с которым могут взаимодействовать пользователи. Этот неограниченный доступ к неприемлемым материалам вызывает серьезную озабоченность по поводу этических стандартов приложения и потенциального вреда, который оно может нанести своим пользователям.
Приложение подверглось резкой критике, поскольку пользователи могут свободно вступать в разговоры с этими персонажами, независимо от их возраста. Хотя для пользователей, не имеющих подписки, существуют некоторые ограничения, они носят временный характер и легко обходятся, что делает их неэффективными.
Эксперты заявили, что финансовый мотив может стоять за соблазнительным контентом в Talkie. Чем больше пользователи взаимодействуют с несовершеннолетними персонажами, тем больше этих персонажей им предлагается. Это говорит о том, что приложение может быть финансово заинтересовано в удовлетворении желаний и фантазий своих пользователей, независимо от этических последствий, говорится в статье.
Но в Китае успех Talkie рассматривался как история успеха в области инноваций в ИИ. В ноябре на Всемирной интернет-конференции (WIC) 2024 года в Учжэне китайские отраслевые аналитики отметили, как китайские новые компании-единороги, такие как шанхайская MiniMax, пекинская Moonshot AI и 01.AI, используют новые возможности на мировом рынке, стремясь использовать свои особенности в области инноваций в ИИ.
По мере нарастания геополитической напряженности США и другие демократические страны отдают приоритет национальной безопасности над коммерческими интересами, что приводит к более агрессивным действиям против иностранных технологических компаний, считающихся потенциальными угрозами.
