Une coalition de procureurs généraux des États a demandé au tribunal des faillites, à Character.AI et aux acheteurs potentiels de traiter la question des données et de la sécurité des utilisateurs lors de toute vente de l'activité ou des actifs de l'entreprise. L'avis des États du 14 octobre propose des conditions concernant l'accès aux historiques de discussion, la suppression avant la vente de données personnelles et les utilisations dépassant le consentement des utilisateurs. Il expose la position des États, sans constituer une ordonnance judiciaire ni une condition de vente convenue.

Ce dépôt fait suite à l'annonce de Character.AI concernant le chapitre 11 en début de semaine. Cette annonce décrivait l'offre initiale de Disney de 20 millions de dollars pour une licence limitée et une procédure distincte visant à vendre la totalité ou la quasi-totalité des actifs de Character.AI. Aucune des annonces ne déterminait qui exploiterait le service après la vente. Le nouveau document des États porte sur les protections qu'ils souhaitent si un acheteur reprend l'activité, le produit ou les données des consommateurs.

Le grand changement

  • Ce qui a changé : Le 14 octobre, des responsables des États ont présenté au tribunal leurs propositions de conditions de confidentialité et de sécurité dans la procédure de Character Technologies au titre du chapitre 11. Ils demandent la protection des consommateurs lors de toute vente et se réservent le droit de contester les conditions proposées.
  • Pourquoi c'est important : Le traitement des conversations et des autres données personnelles par un acheteur pourrait faire partie des négociations de vente. Les États veulent que les utilisateurs conservent leur accès et la possibilité de supprimer leurs données avant toute vente de celles-ci, ainsi que des limites aux nouvelles utilisations sans consentement valable.
  • À surveiller : La proposition de vente effective, les procédures d'enchères et toute décision du tribunal montreront si ces demandes deviennent des conditions juridiquement exécutoires. L'avis, à lui seul, n'accorde pas de nouveau délai de suppression et n'établit pas que les données des utilisateurs seront transférées.

Ce que les États souhaitent pour les données des utilisateurs

Selon l'avis, Character.AI détient les détails des comptes, le contenu des discussions et des appels, des informations comportementales, des identifiants d'appareils et des informations d'abonnement. Il s'agit de la description, par les États, des données collectées par l'entreprise ; BIG CHANGE n'a ni inspecté ses systèmes de manière indépendante ni testé le service.

Les États préconisent pour l'acheteur un programme de confidentialité comprenant des garanties, des informations exactes, des évaluations des risques et le consentement requis avant le traitement d'informations sensibles, telles que les informations de santé révélées dans les discussions. Ils demandent aussi des contrôles au niveau du compte permettant de refuser la vente de données personnelles ou la publicité ciblée, y compris le respect des refus déjà exprimés. Les limites proposées empêcheraient d'utiliser le contenu des conversations et les données associées pour entraîner ou affiner des modèles, pour la publicité ou à d'autres fins commerciales dépassant les utilisations valablement consenties par les consommateurs et les parents.

Les États veulent que les consommateurs conservent l'accès aux données détenues à leur sujet et aient la possibilité de les supprimer avant toute vente de ces données. L'avis n'indique pas qu'une vente de données a été autorisée et ne fixe pas de délai pour exercer cette possibilité proposée. Les instructions d'exportation actuelles de Character.AI, présentées dans notre précédent article, indiquent qu'une demande d'exportation peut prendre trois à quatre semaines. C'est la procédure documentée par l'entreprise ; le dépôt des États ne crée aucun nouveau droit à l'exportation.

Des conditions de sécurité également en discussion

Les États demandent à l'acheteur de vérifier l'âge sans se fonder uniquement sur une date de naissance déclarée, de maintenir les restrictions sur les conversations ouvertes des mineurs et de les protéger dans d'autres fonctionnalités comme Stories. Ils réclament le retrait de personnages présentés comme des professionnels agréés, des protocoles de réponse aux crises qu'un simple clic ne permet pas d'écarter, et des déclarations véridiques sur la sécurité du produit et son adéquation aux mineurs. Le document indique que Character.AI a déjà restreint les conversations ouvertes pour les utilisateurs qu'il identifie comme ayant moins de 18 ans, tout en estimant que les mesures actuelles présentent des lacunes. Ce sont les constats et les propositions des États ; l'avis n'instaure pas de nouvelle règle du produit.

Les États disent avoir tenté de s'entendre avec Character.AI sur des conditions avant la faillite, sans parvenir à une solution. Ils se réservent désormais le droit de s'opposer à une proposition de vente ou à une procédure d'enchères, de demander la désignation d'un médiateur chargé de la confidentialité des données des consommateurs ou de solliciter d'autres mesures judiciaires. Les conditions de vente proposées et toute décision du tribunal montreront quelles protections, le cas échéant, deviendront des obligations pour Character.AI ou un acheteur.

Sources et lectures complémentaires