Entre la ciencia y la amenaza biológica: Anthropic revela el bloqueo de intentos para crear armas biológicas

En un reciente informe sobre inteligencia de amenazas, Anthropic ha hecho público uno de los análisis más detallados hasta la fecha sobre la intersección entre los modelos de lenguaje de última generación y los riesgos de proliferación biológica. El documento expone la interrupción de múltiples campañas de uso indebido detectadas entre finales de 2025 y mediados de 2026, destacando cinco casos de estudio concretos en los que investigadores e instituciones intentaron emplear la familia de modelos Claude para respaldar tareas de laboratorio de alto riesgo potencialmente vinculadas al desarrollo o potenciación de patógenos peligrosos.

Esta imagen conceptual representa la intervención de seguridad en un centro de control digital de Anthropic. En la pantalla principal, los analistas revisan una visualización detallada titulada 'DETALLES DE INTERCEPCIÓN DE BIO-RIESGOS' (con el subtítulo '5 INTENTOS DE EXPERIMENTOS DE ALTO RIESGO BLOQUEADOS'), mostrando cómo los sistemas interceptaron solicitudes para optimizar patógenos, guiar la síntesis de ADN y evadir regulaciones de seguridad biológica. Imagen generada con asistencia de Gemini AI.

El dilema del "doble uso": La delgada línea científica

El hallazgo fundamental revelado por la compañía no es la irrupción de actores caricaturescos intentando crear armas de destrucción masiva desde cero, sino la complejidad del denominado investigación de doble uso (dual-use research). Las mismas metodologías, análisis genómicos y optimizaciones de protocolos requeridos para desarrollar vacunas o tratamientos antivirales son idénticos a los utilizados para incrementar la virulencia, transmisibilidad o resistencia de un agente biológico.

Entre los casos documentados en el informe destacan:

• Investigación de ganancia de función en virus complejos: Un científico buscó el apoyo de la IA para la formulación de subvenciones y diseño experimental orientado a mutaciones de "ganancia de función" en el virus del Chikungunya —un patógeno transmitido por mosquitos sin tratamiento licenciado— con el fin de aumentar su capacidad infecciosa en organismos vivos dentro de un instituto de investigación militar.

• Adaptación de gripe aviar a mamíferos: Un investigador internacional utilizó modelos avanzados para planificar ensayos sobre la adaptación del virus de la gripe aviar altamente patógena en mamíferos. En este caso, los clasificadores automáticos de bioseguridad detectaron el patrón de riesgo y degradaron el acceso a los modelos de mayor capacidad, limitando el grado de asistencia técnica proporcionado.

Jacob Klein, jefe de inteligencia sobre amenazas de Anthropic, subrayó que el problema rara vez se presenta como una solicitud explícitamente maliciosa, lo que exige juicios de valor extremadamente matizados al evaluar si una consulta científica legítima cruza el umbral de la peligrosidad.

Barreras de contención y degradación de capacidades

Para frenar estos intentos sin paralizar la investigación biomédica legítima, empresas como Anthropic aplican clasificadores de bioseguridad en tiempo real diseñados bajo sus marcos de Política de Escalado Responsable (RSP).

Cuando un sistema de IA de alta capacidad procesa consultas relacionadas con amenazas biológicas o químicas (CBRN):

• Filtros de clasificación inmediata: Evalúan el texto y el contexto del razonamiento intermedio. Si la solicitud excede los parámetros de seguridad establecidos, la sesión se bloquea o se redirige.

• Limitación de "incremento de capacidad" (uplift): El objetivo primordial de estos filtros es evitar que la IA actúe como un "tutor técnico hipercompetente" o un asistente de laboratorio capaz de resolver cuellos de botella experimentales, traducir conocimiento implícito difícil de obtener o sugerir formas de eludir los controles de síntesis de ADN.

La aceleración de los modelos y la urgente necesidad de control

Este informe reaviva el debate sobre la seguridad de los modelos de frontera expuesto por exinvestigadores como Jacob Coxon o líderes en alineación como Evan Hubinger. A medida que las arquitecturas de inteligencia artificial incrementan su razonamiento científico autónomo y su capacidad para analizar datos biológicos complejos, los filtros de moderación basados en texto tradicional se vuelven insuficientes.

El reporte de Anthropic demuestra que, si bien las herramientas de mitigación actuales han logrado contener desviaciones de riesgo en el estado presente de la tecnología, la carrera por modelos más autónomos y capaces exige una actualización constante de las salvaguardas. La preservación de la bioseguridad global no dependerá solo de la autorregulación corporativa, sino de la implementación de auditorías independientes y de un consenso ético internacional sobre los límites de la investigación automatizada en ciencias de la vida.-

Jorge S King ©2026

Con asistencia de Gemini AI

Todos los Derechos Reservados

Nota relacionada:

• Anthropic bloquea posibles intentos de crear armas biológicas con su inteligencia artificial. Infobae. 10/09/2026.

Post relacionado:

• El peligro de la superinteligencia, la advertencia de los expertos de OpenAI y Anthropic. 09/09/2026.

___________________

NOTA: Las cookies de este sitio se usan para personalizar el contenido y los anuncios, para ofrecer funciones de medios sociales y para analizar el tráfico. Además, compartimos información sobre el uso que haga del sitio web con nuestros partners de medios sociales, de publicidad y de análisis web. Ver detalles.

IMPORTANTE: Todas las publicaciones son sin fines comerciales ni económicos. Todos los textos de mi autoría tienen ©todos los derechos reservados. Los contenidos en los link (vínculos) de las notas replicadas (reproducidas) y/o citadas son de exclusiva responsabilidad de sus autores. Éste blog ni su autor tienen responsabilidad alguna por contenidos ajenos.