Влада Китаю посилила контроль над великими мовними моделями (ВММ), розробленими такими технологічними гігантами, як ByteDance, Alibaba, Moonshot та 01.AI, щоб забезпечити їх відповідність “основним соціалістичним цінностям”. Про це пише cikavosti.com.
Державна канцелярія інтернет-інформації КНР (CAC) стежить за тим, щоб ці передові системи штучного інтелекту не торкалися чутливих політичних тем і не реагували на жарти про Сі Цзіньпіна. Самоцензура, впроваджена у чат-боти, відмовляє у відповідях на запитання про такі теми. Понад 20 років тому в Китаї був створений “Великий китайський файрвол”, який обмежив доступ до небажаної для влади інформації. Тепер Пекін запроваджує найсуворіші у світі заходи регулювання ШІ та його контенту.
CAC зобов’язала великі технологічні компанії та стартапи у сфері ШІ пройти урядове тестування своїх моделей, що передбачає комплексну оцінку їхніх відповідей на широке коло запитань, включаючи політично чутливі теми. Багато моделей не проходять перевірку з першого разу, що вимагає їх доопрацювання. Це підштовхує китайські компанії до розробки витончених механізмів цензури для відповідності державним стандартам.
Одним з головних викликів є поєднання високої продуктивності ВММ із цензурою. Оскільки ці моделі обробляють великі масиви даних, часто англійською мовою, це ускладнює їх відповідність суворим вимогам китайського регулювання. У лютому уряд Китаю випустив керівні принципи, що зобов’язують АІ-компанії збирати та фільтрувати тисячі чутливих ключових слів і питань, що можуть порушувати “основні соціалістичні цінності”.
Запитання про чутливі історичні події або жарти про Сі Цзіньпіна блокуються. Чат-боти Baidu Ernie і Alibaba Tongyi Qianwen пропонують змінити тему або посилаються на обмеження. Пекін також запустив альтернативний чат-бот, який базується на працях Сі Цзіньпіна та іншій офіційній літературі.
Ви досі не підписані на телеграм-канал Літгазети? Натисніть, щоб підписатися! Посилання на канал
Відповідно до поточних стандартів, ВММ повинні відхиляти не більше ніж 5% питань. Після запуску в світ їх особливо не контролюють, проте багато моделей впроваджують самоцензуру, повністю блокуючи обговорення певних тем. Для цього використовуються класифікатори, схожі на спам-фільтри, що дозволяють ранжувати відповіді ВММ та замінювати потенційно проблемні відповіді безпечнішими альтернативами.
ByteDance, відома своєю платформою TikTok, привела свої моделі у відповідність до державного порядку денного Китаю, отримавши вищий рейтинг безпеки у 66,4%, тоді як OpenAI GPT-4 отримала лише 7,1%.
Китай прагне покращувати протоколи безпеки для ВММ. Фан Біньсін, творець “Великого китайського файрволу”, наголосив на необхідності впровадження надійних систем моніторингу в режимі реального часу. Це підкреслює прагнення Китаю до розробки унікальної технологічної структури, що відповідає нормативним вимогам і стратегічним національним інтересам.