AI-translated from English; not yet reviewed by a fluent editor. # La demanda de Columbia Británica contra OpenAI somete a escrutinio las decisiones de seguridad > Un análisis de las decisiones que median entre una alerta de seguridad y una remisión a las autoridades externas, y de cómo la supervisión puede examinar tanto los peligros no detectados como las intromisiones injustificadas. By BIG CHANGE Editorial Published: 2026-09-22T11:38:17.645Z Updated: 2026-09-22T11:38:17.645Z Canonical: https://bigchange.ai/blog/bc-openai-lawsuit-safety-accountability ![An open ring binder with blank divider tabs lies beneath a magnifying glass, with an orange pencil beside it.](https://bigchange.ai/api/media/file/reviewable-decisions-hero-v1.png) AI-generated conceptual illustration by BIG CHANGE. Reviewable records can help explain how an organization reached a safety decision. Conceptual illustration of scrutiny and recordkeeping, not a depiction of evidence or a finding in this lawsuit. Columbia Británica anunció su demanda contra OpenAI el 21 de septiembre de 2026, junto con el consejo escolar de Peace River South, tras el tiroteo en una escuela de Tumbler Ridge. La provincia busca que se asuman responsabilidades por la recuperación de la comunidad y que se refuercen las salvaguardas. El anuncio expone la postura del Gobierno, pero no demuestra la responsabilidad legal de la empresa. [Declaración provincial](https://news.gov.bc.ca/releases/2026AG0067-001105) Para quienes intentan evaluar la seguridad de la IA, la pregunta útil es cómo gestiona una organización la información que ya ha señalado. Un modelo puede detectar contenido preocupante, pero quienes operan el servicio aún deben decidir qué significa, qué medidas están justificadas y quién tiene autoridad para tomarlas. Esas decisiones merecen tanto escrutinio como las respuestas del modelo. ## El cambio de fondo - **Qué cambió:** Una provincia y un consejo escolar solicitan indemnizaciones y cambios en las prácticas de seguridad de OpenAI mediante un nuevo proceso civil. - **Por qué importa:** Detectar actividad preocupante deja decisiones trascendentes en manos de las personas: la revisión humana, la continuidad del acceso y la comunicación a las autoridades. Cada decisión necesita una persona responsable y una justificación defendible. - **Qué conviene observar:** Las pruebas sobre esas decisiones, el tratamiento judicial de las reclamaciones y si la supervisión propuesta puede detectar peligros sin dejar de proteger a las personas frente a intromisiones injustificadas. ## Qué acreditan los documentos La demanda presentada ante un tribunal federal del norte de California identifica como demandantes a la provincia y al consejo del Distrito Escolar n.º 59, y como demandados a Sam Altman y entidades de OpenAI. Alega fallos en la remisión de amenazas y la seguridad del producto, y solicita indemnizaciones y una orden judicial. La nota al pie 2 indica que aún deben entregarse los registros de chat. Por tanto, las afirmaciones sobre decisiones internas y la posibilidad de prevenir los hechos requieren pruebas; esta demanda no constituye un fallo judicial. [Demanda presentada](https://chatgptiseatingtheworld.com/wp-content/uploads/2026/09/COMPLAINT-His_Majesty_the_King_in_Right_.pdf) El relato anterior de OpenAI aporta un punto de referencia independiente y fechado. En una carta del 26 de febrero a la ministra de IA de Canadá, la empresa dijo que la detección automatizada y la revisión humana la llevaron a suspender una cuenta en junio de 2025. Afirmó que la información disponible en ese momento no alcanzaba el umbral para remitirla a las autoridades. Según la carta, el protocolo que reforzó posteriormente habría dado lugar a esa remisión, y la empresa reconoció que encontró una segunda cuenta después de que se hiciera pública la identidad del atacante. Son declaraciones de la empresa, no conclusiones verificadas de manera independiente sobre la eficacia de sus reformas. [Carta de febrero](https://cdn.openai.com/pdf/8e938d69-0b67-4994-b9ff-683733ed587e/openai-letter-minister-solomon.pdf) Reuters informó que OpenAI reafirmó su compromiso de cooperar con las autoridades y continuar su labor de seguridad. [Reuters](https://www.theguardian.com/technology/2026/sep/22/british-columbia-sues-openai-sam-altman-tumbler-ridge-school-shooting) El relato de febrero es anterior a la nueva demanda. No debe sustituir una respuesta detallada a sus reclamaciones. A la vez, afirmar que un protocolo posterior habría llevado a tomar otra decisión no demuestra lo que habría ocurrido después. Para evaluar responsabilidades hay que examinar las pruebas disponibles en aquel momento y las consecuencias de las opciones existentes. ![Three separate groups show a document under a magnifier, an orange barrier beside a blank account card, and an envelope in a tray.](/api/media/file/assessment-access-referral-inline-v1.png) ## La detección, las medidas sobre una cuenta y la remisión responden a preguntas distintas La declaración de OpenAI sobre seguridad comunitaria del 28 de abril describe una detección automatizada seguida de una evaluación humana contextual. Entre los posibles resultados figuran descartar el caso, investigarlo más y tomar medidas contra la cuenta. También describe procesos de apelación y medidas contra cuentas reincidentes. La página indica que las conversaciones que señalen un riesgo inminente y creíble de daño a otras personas se notifican a las fuerzas del orden. Es el proceso publicado por la empresa, no una prueba de cómo se trató un caso concreto. [Política de seguridad comunitaria](https://openai.com/index/our-commitment-to-community-safety/) Separar esos pasos ayuda a identificar qué pruebas serían útiles. Un sistema de detección responde a una pregunta de selección inicial: ¿merece atención este material? Su resultado no basta, por sí solo, para emitir un juicio sobre una persona. La evaluación humana debería considerar el contexto y la incertidumbre, y contar con tiempo y autoridad suficientes para cuestionar la alerta inicial. El registro debería conservar los motivos de cualquier cambio de criterio, incluso cuando nueva información rebaje la gravedad aparente de una señal. Las medidas sobre una cuenta afectan al acceso a un servicio. Suspenderlo no resuelve si la información debe salir de la empresa. Tampoco la ausencia de motivos para una remisión externa justifica necesariamente mantener el acceso según las reglas del servicio. Tratar estas decisiones por separado permite que cada una tenga sus propias pruebas y justificación. Imaginemos una revisión hipotética en la que el personal coincide en que una cuenta infringió las reglas del servicio, pero discrepa sobre si existe un peligro externo creíble. Un registro útil mostraría el desacuerdo, quién lo resolvió y qué razonamiento siguió. Una etiqueta única como «se tomaron medidas» ocultaría casi todo lo que necesita evaluar un auditor. La remisión involucra a otra institución, con autoridad y responsabilidades propias. Una empresa debería poder explicar qué información compartió, por qué estaba justificada su divulgación y cómo confirmó que llegó al destinatario adecuado. Enviar información no garantiza una respuesta concreta ni evita un desenlace determinado. Para evaluar el traspaso hay que dejar claros esos límites. Mejorar un paso puede dejar intacto otro problema. Una detección mejor servirá de poco si nadie se hace cargo de las revisiones urgentes o si quienes las realizan no pueden contactar con alguien autorizado para actuar. Un cambio de política debe ir acompañado de cambios en la capacidad del personal para aplicarla. ## Una auditoría necesita acceso a las decisiones y sus consecuencias La demanda solicita controles de seguridad auditables y auditorías trimestrales de cumplimiento a cargo de un supervisor independiente. Son medidas propuestas, no cambios ordenados por el tribunal. [Medidas solicitadas, pág. 38](https://chatgptiseatingtheworld.com/wp-content/uploads/2026/09/COMPLAINT-His_Majesty_the_King_in_Right_.pdf) Existe una base de gobernanza establecida para examinar la toma de decisiones. El Marco de Gestión de Riesgos de IA de 2023 del NIST, de aplicación voluntaria, pide documentar las responsabilidades y la comunicación, asignar a la dirección ejecutiva la responsabilidad por las decisiones de riesgo y definir las funciones de supervisión humana. Sus disposiciones sobre medición contemplan la evaluación por personas ajenas al desarrollo de primera línea y la revisión de la eficacia de los controles. Es una guía, no un fallo sobre este caso ni una certificación de ninguna empresa. [Marco de Gestión de Riesgos de IA del NIST](https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-1.pdf) A nuestro juicio, una auditoría eficaz debería examinar el recorrido desde que se solicita una revisión hasta que se resuelve. Eso incluye las demoras, los desacuerdos pendientes y los casos cerrados sin actuar. Examinar solo las remisiones realizadas dejaría fuera las decisiones que mantuvieron la información dentro de la empresa. Examinar únicamente los fallos descubiertos después de causar daño ofrecería una visión distorsionada de los juicios cotidianos. El auditor también tendría que distinguir entre las reglas vigentes en cada momento y las revisiones posteriores. De lo contrario, la empresa podría parecer cumplidora por haber publicado una política nueva, sin demostrar si capacitó al personal, si existían las herramientas necesarias o si alguien comprobó que el cambio funcionara. Un seguimiento útil pediría pruebas fechadas de que se resolvió un problema identificado. Las conclusiones de una revisión podrían revelar instrucciones poco claras o falta de personal, problemas que pueden corregirse antes de otro caso difícil. También podrían demostrar que el personal actuó con criterio razonable en condiciones de incertidumbre. La supervisión es más creíble si puede llegar a cualquiera de las dos conclusiones y explicar las pruebas que la sustentan. La independencia requiere autoridad práctica. Quien evalúa el sistema no puede reconstruir decisiones cuestionadas si solo ve ejemplos seleccionados o cifras agregadas. Importan más el acceso a los registros pertinentes, la posibilidad de informar de problemas no resueltos y una vía definida para corregirlos que un título rimbombante. Esos acuerdos también necesitarían medidas de privacidad y límites al uso de registros sensibles. ## Más información pública puede crear otro problema de seguridad Un sistema que recibe incentivos por aumentar las remisiones puede mejorar sus cifras de una forma evidente: remitir a más personas. Eso podría causar divulgaciones innecesarias y desviar la atención de señales más sólidas. Contar las remisiones mide la actividad; evaluar su calidad requiere pruebas sobre los motivos y los errores detectados posteriormente. El objetivo contrario también puede inducir a error. Una tasa baja de revocaciones podría significar que las decisiones son acertadas o que las personas no pueden cuestionarlas de manera efectiva. Un tiempo medio de revisión breve puede ocultar unos pocos casos con demoras inusuales. Antes de tratar una métrica como prueba de seguridad, los responsables y revisores externos deberían preguntar qué deja fuera. La privacidad forma parte de esta evaluación. El registro de una revisión puede contener información muy personal sobre alguien que finalmente no representa una amenaza pertinente. Conservar pruebas suficientes para evaluar una decisión no justifica dar acceso a todo el personal ni retener indefinidamente todas las conversaciones relacionadas. El propósito del registro, quién puede acceder y durante cuánto tiempo debería quedar explícito, con la preservación adecuada cuando existan obligaciones legales. También hay que distinguir entre explicar públicamente un sistema y revelar el registro de una persona. La información agregada sobre las demoras de revisión, las decisiones corregidas y los cambios de política podría facilitar el escrutinio público. El acceso detallado podría limitarse a evaluadores autorizados. Incluso para publicar datos agregados se requiere cautela si un grupo pequeño o unas circunstancias inusuales pudieran identificar a alguien. También querríamos que la supervisión examinara si los errores se distribuyen de forma desigual. Si se trata de manera distinta material comparable según el idioma o el contexto, una cifra general de precisión podría ocultarlo. Esta es una pregunta de evaluación propuesta, no una afirmación de que tal patrón se haya demostrado en este caso. ## Cómo sería un próximo paso creíble En el litigio, los lectores deben distinguir las nuevas acusaciones de las pruebas presentadas y de las decisiones que haya tomado realmente el tribunal. Una petición de salvaguardas nos dice qué desea la parte demandante. Que esa medida esté justificada, sea suficientemente precisa o sea legalmente obligatoria es otra cuestión. Para el sector, los avances útiles se verían en cambios de procedimiento fechados, responsabilidades claras para las decisiones difíciles y pruebas de que las correcciones llegan a las operaciones diarias. Las empresas deberían explicar el alcance y los límites de cualquier evaluación independiente. Quienes diseñan políticas deberían examinar tanto el coste de intervenir en exceso como las consecuencias de no actuar. La oportunidad consiste en facilitar la inspección y corrección de las prácticas de seguridad. El riesgo es que la presión pública genere una vigilancia más amplia o más papeleo sin mejorar las decisiones. Los lectores pueden plantear una pregunta concreta sobre cada reforma prometida: ¿qué pruebas demostrarían que mejora el criterio, incluso cuando abstenerse de actuar sea lo justificado? ## Sources - [Columbia Británica: declaración del 21 de septiembre](https://news.gov.bc.ca/releases/2026AG0067-001105) — La provincia anuncia la demanda y expone su postura política. Esta declaración de la parte demandante acredita el anuncio, no la veracidad de las acusaciones disputadas. - [Demanda presentada: caso 3:26-cv-10743](https://chatgptiseatingtheworld.com/wp-content/uploads/2026/09/COMPLAINT-His_Majesty_the_King_in_Right_.pdf) — Copia del escrito sellado por el tribunal, alojada por un tercero. La nota al pie 2 identifica los registros aún no entregados; las páginas 37–39 solicitan medidas. Las acusaciones no están probadas. - [OpenAI: carta de febrero a la ministra Solomon](https://cdn.openai.com/pdf/8e938d69-0b67-4994-b9ff-683733ed587e/openai-letter-minister-solomon.pdf) — Relato anterior de la empresa sobre los criterios de detección, aplicación de medidas y remisión, incluidos cambios posteriores. Es anterior a la demanda de septiembre y no evalúa de forma independiente la eficacia de las reformas. - [Reuters](https://www.theguardian.com/technology/2026/sep/22/british-columbia-sues-openai-sam-altman-tumbler-ridge-school-shooting) — Respuesta actual de la empresa. - [OpenAI: política de seguridad comunitaria](https://openai.com/index/our-commitment-to-community-safety/) — Distingue la detección, la revisión contextual, las medidas sobre cuentas, las apelaciones y la remisión. Describe la política de la empresa, pero no demuestra su aplicación ni sus resultados en este caso. - [NIST: Marco de Gestión de Riesgos de IA, versión 1.0](https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-1.pdf) — Guía voluntaria sobre responsabilidades, rendición de cuentas ejecutiva, supervisión y evaluación. Las preguntas de auditoría propuestas en el artículo son análisis editorial, no requisitos legales ni conclusiones del NIST sobre OpenAI.