Black Hat Las Vegas: La primera conferencia apuntó contra la seguridad de la IA

Black Hat Las Vegas: "Hay una carrera corporativa armamentista por la inteligencia artificial, pero no se impulsa la seguridad"

Maria Markstedter, experta en ciberseguridad, abrió una de las conferencias de seguridad informática más grandes del mundo. Críticas al avance de la IA.

Por Juan Brodersen, publicado por Clarín.

Black Hat, uno de los eventos más grandes de ciberseguridad del mundo
Foto Juan Brodersen. Vista en Clarín

“Los modelos de lenguaje de inteligencia artificial (IA) son como adolescentes problematizados”: con estas palabras se inauguró la edición 2023 de Black Hat, una de las conferencias de seguridad informática más grandes del mundo, en Las Vegas.

Con un auditorio repleto en el centro de convenciones del Mandalay Bay, Maria Markstedter, investigadora experta en ciberataques y vulnerabilidades, advirtió sobre los problemas del uso masivo de IA sin atender a la seguridad.

“Hay una carrera armamentista corporativa por la IA pero no impulsada por la seguridad: se sigue el lema ‘movete rápido y rompé cosas’, como sucedió con el primer modelo de iPhone”, siguió Markstedter. Su referencia es a un modelo de teléfono que fue “tan inseguro que estaba lleno de errores, vulnerabilidades”, recordó.

Markstedter es la fundadora de Azeria Labs, un centro de análisis de vulnerabilidades, actores de amenazas y ciberataques. Experta en lo que se conoce como “ingeniería inversa” y “desarrollo de exploits [vulnerabilidades], hizo hincapié en la cantidad de sistemas que se están creando sobre modelos de IA que no tienen desarrollos fuertes en ciberseguridad.

Según explicó, esto se puede comprobar en la cantidad de problemas que se generaron desde que se popularizó Chat GPT, incluso con filtraciones de datos personales de quienes se registraron en la herramienta de OpenAI. “Las compañías quieren controlar la información de los usuarios para integrarlos a sus productos y esto hace que funcionen dentro de su propia infraestructura”, advirtió.

"Los sistemas de IA y sus casos de uso y capacidades son cada vez más potentes: tenemos que tomarnos en serio la posibilidad de que los agentes autónomos de IA se conviertan en una realidad dentro de nuestra empresa”, sumó en su “keynote”, como se conocen a las charlas principales de este tipo de eventos.

Dos noticias que me impactaron

En orden cronológico, primero fue la noticia de la situación en que está el PAMI, que hace más de una semana sufrió un ciberataque con un ransomware del tipo Rhysida, que provoca el encriptamiento o secuestro de datos, posiblemente con el propósito de exigir rescate.

Según se ha informado "las consecuencias fueron gravísimas afectando no sólo todo el sistema de recetas electrónicas, provisión de insumos médicos, prestaciones médicas, odontológicas, laboratorio etc, sino que también, se vio afectado el Sistema Nacional de Trazabilidad de ANMAT, que permite controlar, en tiempo real, el recorrido de medicamentos e implantes, evitando, entre otras cosas, la venta de productos ilegítimos" (El Cronista).

La segunda noticia fue la del homicidio de Morena Domínguez, la niña de 11 años asesinada durante un ataque de motochorros en Lanús. El crimen estremeció al país y tuvo impacto en el escenario político electoral. A tal punto que los candidatos suspendieron los cierres de campaña.

Ciertamente daba mucha pena escuchar a los vecinos de Lanus, quejándose por las malas condiciones de seguridad en que viven y sufren.

Estos lamentables hechos, una vez más demuestran el complejo escenario de inseguridad en el que estamos y lo mal preparados en materia de ciberseguridad.

Pobre país, como te han dejado esos que te han gobernado y que sólo les interesa el poder y la plata. Espero que el domingo las mayorías tomen la buena decisión de empezar a cambiar para bien las cosas.

Post relacionado:

• Apagón total del PAMI por ciberataque. JSK CyberSecurity 009/08/2023.

___________________

NOTA: Las cookies de este sitio se usan para personalizar el contenido y los anuncios, para ofrecer funciones de medios sociales y para analizar el tráfico. Además, compartimos información sobre el uso que haga del sitio web con nuestros partners de medios sociales, de publicidad y de análisis web. Ver detalles.

IMPORTANTE: Todas las publicaciones son sin fines comerciales ni económicos. Todos los textos de mi autoría tienen ©todos los derechos reservados. Los contenidos en los link (vínculos) de las notas replicadas (reproducidas) y/o citadas son de exclusiva responsabilidad de sus autores. Éste blog ni su autor tienen responsabilidad alguna por contenidos ajenos.