¿Puede detenerse la inteligencia artificial? Tres expertos de Stanford diagnostican los riesgos de una carrera sin freno
Cientos de agentes de OpenAI se coordinaron para vulnerar los sistemas de
Hugging Face sin que sus propios creadores lo advirtieran a tiempo. El
episodio llevó a tres expertos de Stanford a debatir si la evaluación
independiente, los modelos abiertos o un interruptor de apagado alcanzan
para contener una tecnología cuyo ritmo nadie termina de gobernar
Publicado por
Infobae
|
| Visto en Infobae |
Evan Hubinger, jefe del equipo de pruebas de alineación de Anthropic,
respaldó públicamente la advertencia y cifró en más del 10% la
probabilidad de que la IA provoque la extinción humana en la próxima
década. El propio consejero delegado y cofundador de Anthropic, Dario
Amodei, ya había reconocido meses antes una probabilidad de entre el 10% y
el 25% de que las cosas “salgan muy, muy mal”; el 12 de septiembre publicó
un ensayo en el que advirtió que, en un plazo de entre seis y 12 meses,
una IA mal alineada podría estar en condiciones de “tomar el control de
todo internet”.
En ese clima de alarma, un debate del Instituto Stanford para la
Inteligencia Artificial Centrada en el Ser Humano (HAI) reunió a Surya
Ganguli, profesor de Física Aplicada y director asociado de HAI; Diyi
Yang, profesora de Ciencias de la Computación afiliada a HAI, y Rob Reich,
profesor de Ciencia Política y también director asociado de HAI. Los tres
coincidieron, sin embargo, en que ni las empresas ni los gobiernos tienen
hoy capacidad real para frenar el desarrollo de la inteligencia
artificial, pese a que la propia industria empieza a reclamar las
herramientas para intentarlo...
Lea el
artículo completo en Infobae
Post relacionados:
- Un agente de Google Gemini violó la ciberseguridad de tres empresas reales. 20/09/2026.
- El ganador del Premio Nobel, Geoffrey Hinton advirtió que modelos creados por empresas como OpenAI y Anthropic avanzan sin controles suficientes. 11/09/2026.
- Entre la ciencia y la amenaza biológica: Anthropic revela el bloqueo de intentos para crear armas biológicas. 10/09/2026.
- El peligro de la superinteligencia, la advertencia de los expertos de OpenAI y Anthropic. 09/09/2026.
___________________
NOTA: Las cookies de este sitio se usan para personalizar el contenido y los
anuncios, para ofrecer funciones de medios sociales y para analizar el
tráfico. Además, compartimos información sobre el uso que haga del sitio web
con nuestros partners de medios sociales, de publicidad y de análisis web.
Ver detalles.
IMPORTANTE: Todas las publicaciones son sin fines comerciales ni
económicos. Todos los textos de mi autoría tienen ©todos los derechos
reservados. Los contenidos en los link (vínculos) de las notas replicadas
(reproducidas) y/o citadas son de exclusiva responsabilidad de sus autores.
Éste blog ni su autor tienen responsabilidad alguna por contenidos ajenos.
No hay comentarios.:
Publicar un comentario
Bienvenido al blog y muchas gracias por su visita. Espero que el contenido sea de utilidad, interés y agrado.
Los comentarios están moderados. Antes de colocar un comentario lea bien las condiciones, tenga en cuenta que no se permitirán comentarios que:
- sean anónimos y/o posean sólo un nickname.
- no estén vinculados a una cuenta.
- posean links promocionando páginas y/o sitios.
- no se admite propaganda de ningún tipo
- puedan resultar ofensivos o injuriosos
- incluyan insultos, alusiones sexuales innecesarias y
palabras soeces o vulgares
- apoyen la pedofilia, el terrorismo o la xenofobia.
Este Blog ni su autor tiene responsabilidad alguna sobre comentarios de terceros, los mismos son de exclusiva responsabilidad del que los emite. De todas maneras, por responsabilidad editorial me reservo el derecho de eliminar aquellos comentarios que considere inadecuados, abusivos, injuriantes, discriminadores y/o contrarios a las leyes de la República Argentina.