El trabajo periodístico con IA es un error

Thomas Baekdal: “Usar IA para crear contenido periodístico es, en esencia, un enfoque equivocado”

El analista danés advierte sobre los errores estratégicos que han cometido los medios de comunicación en su relación con la tecnología y sostiene que la industria debe desarrollar modelos de negocios que permitan una segmentación más efectiva

Por Gastón Roitberg, publicado por La Nación.

Con más de 20 años de experiencia analizando tendencias en la industria de los medios, Thomas Baekdal ha sido una voz crítica respecto a cómo los editores han abordado la digitalización. Desde su plataforma independiente, Baekdal.com, examina los cambios estructurales del periodismo y sus modelos de negocio, alejándose de las métricas tradicionales que priorizan el volumen por sobre el valor.

Lea el artículo completo en La Nación

Una lectura recomendada

___________________

NOTA: Las cookies de este sitio se usan para personalizar el contenido y los anuncios, para ofrecer funciones de medios sociales y para analizar el tráfico. Además, compartimos información sobre el uso que haga del sitio web con nuestros partners de medios sociales, de publicidad y de análisis web. Ver detalles.

IMPORTANTE: Todas las publicaciones son sin fines comerciales ni económicos. Todos los textos de mi autoría tienen ©todos los derechos reservados. Los contenidos en los link (vínculos) de las notas replicadas (reproducidas) y/o citadas son de exclusiva responsabilidad de sus autores. Éste blog ni su autor tienen responsabilidad alguna por contenidos ajenos.

Expertos piden cautela sobre el uso de DeepSeek

En un artículo publicado por The Guardian informan que un "profesor de Oxford desaconseja poner datos privados en la plataforma por si pudieran ser compartidos con el estado chino"

Visto en The Guardian

Los expertos han pedido cautela a la hora de adoptar rápidamente la plataforma de inteligencia artificial china DeepSeek , citando preocupaciones sobre la difusión de información errónea y sobre cómo el Estado chino podría explotar los datos de los usuarios.

La nueva IA de bajo costo eliminó 1 billón de dólares del principal índice bursátil tecnológico estadounidense esta semana y rápidamente se convirtió en la aplicación gratuita más descargada en el Reino Unido y los Estados Unidos. Donald Trump la calificó como una “llamada de atención” para las empresas tecnológicas.

Su aparición ha conmocionado al mundo tecnológico al demostrar aparentemente que puede lograr un rendimiento similar al de plataformas ampliamente utilizadas como ChatGPT a una fracción del costo.

Michael Wooldridge, profesor de fundamentos de IA en la Universidad de Oxford, dijo que no era descabellado suponer que los datos introducidos en el chatbot pudieran compartirse con el Estado chino.

Dijo: “Creo que está bien descargarlo y preguntarle sobre el desempeño del club de fútbol Liverpool o charlar sobre la historia del imperio romano, pero ¿recomendaría incluir algo sensible, personal o privado en ellos? Absolutamente no… Porque no sabes a dónde van los datos”.

La Inteligencia Artificial y el autoritarismo

Siguiendo con éste interesante tema de la IA como herramienta autoritaria. Desde el año pasado hemos empezado a vivir una nueva revolución digital liderada por la Inteligencia Artificial (IA), y no son pocos los que han señalado que comenzamos una nueva era porque la IA nos abre un escenario sin límites.

Imagen de Shutterstock, vista en nobbot

Se destaca el uso de la IA generativa, no nos cansamos de elogiar sus capacidades y posibilidades. Pero al mismo tiempo, somos consientes que puede convertirse en una herramienta poderosa para consolidar el poder en manos de unos pocos y nos cuestionamos su real impacto en la gobernabilidad democrática, convivencia ciudadana, seguridad de las personas y estabilidad global. Frente a esto, no pocos creemos que es necesario replantearnos qué forma comienza a adquirir la democracia digital mediante el uso de la IA.

Lamentablemente, la IA generativa podría maximizar la desinformación y golpear aún más las democracias alicaídas y plantea la probabilidad que gobiernos autoritarios que pueden llegar o ya llegaron al poder a través de procesos "democráticos" conocidos como "regímenes híbridos".

Es conocido que éstos autócratas buscan perpetuarse en el poder y establecen un proceso de control de la ciudadanía y anulación de oposición. La gente queda cautiva, dependiente y prácticamente sin opciones de elección.

La IA como herramienta autoritaria

La inteligencia artificial (IA) es una tecnología poderosa que puede ser utilizada tanto para el bien como para el mal. La intersección entre la inteligencia artificial (IA) y el poder político es una de las discusiones más candentes de nuestra era. Es cierto que la IA, con su capacidad para procesar enormes cantidades de datos y aprender de ellos, puede convertirse en una herramienta poderosa para consolidar el poder en manos de unos pocos.

Yuval Noah Harari analizó cómo impactará la Inteligencia Artificial en el poder: democracias, dictaduras, burócratas y “Terminators”

El historiador y escritor israelí cree que las redes de información tienden a ser “centralizadas”, lo que plantea desafíos y riesgos para los gobiernos.

Publicado por Infobae

El historiador y escritor israelí Yuval Noah Harari analizó las implicaciones transformadoras que la inteligencia artificial (IA) puede tener en las estructuras de poder actuales.

A través de su nueva obra “Nexus”, el autor explora cómo este agente tecnológico
está transformando la forma en que los humanos toman decisiones
Visto en Infobae

En una extensa entrevista con Noema, no dudó en señalar que la IA ya está inclinando la balanza a favor de redes de información “centralizadas”, lo que plantea desafíos a las democracias y riesgos aún mayores para los regímenes autoritarios.

A través de su nueva obra “Nexus”, el autor explora cómo este agente tecnológico está transformando la forma en que los humanos toman decisiones y cómo, paradójicamente, podría facilitar la consolidación de las dictaduras.

Centralización del poder: la IA como herramienta autoritaria

Una de las ideas más inquietantes que plantea Harari es que la IA, lejos de ser simplemente un recurso tecnológico más, podría reforzar las estructuras de poder centralizadas y dar un nuevo aliento a los regímenes dictatoriales.

“Una hipótesis destacada es que la IA podría inclinar la balanza decisivamente a favor de las redes de información centralizadas, a favor de las dictaduras”, aseguró el autor, quien añadió que lo que no funcionó en el siglo XX debido a la limitada capacidad humana para procesar grandes volúmenes de datos, ahora podría ser altamente efectivo con la IA. “Cuando se inunda a los humanos con información, se ven abrumados. Cuando se inunda a la IA con información, mejora. Los datos son el alimento, el combustible para el crecimiento de la IA”, reflexionó.

Esta capacidad de la inteligencia artificial para manejar datos masivos a una velocidad y precisión inalcanzables para los humanos abre la puerta a una forma de control sin precedentes, donde los sistemas autoritarios podrían superar una de sus mayores debilidades: la ineficiencia.

¿Estás seguro que chateas con una persona, o un bot con IA?

Cómo diferenciar si en un chat me está hablando un humano o un robot con IA

Reconocer distintas señales puede evitar que millones de personas caigan en estafas, robos, y otros riesgos

Por Dylan Escobar Ruiz

La inteligencia artificial (IA) está cada vez más presente en diversos espacios sociales, llegando al punto en que la línea entre humanos y chatbots en las conversaciones en línea se ha vuelto cada vez más difusa.

Muchos estudios que analizan esta coyuntura han enfatizado que casi la mitad de los participantes considera que distinguir entre un humano y un chatbot es una tarea difícil. Esto porque los bots han alcanzado un nivel de sofisticación hasta lograr superar la prueba de Turing, una evaluación que mide si una máquina puede imitar el comportamiento humano.

Lea el artículo completo en Infobae

___________________

NOTA: Las cookies de este sitio se usan para personalizar el contenido y los anuncios, para ofrecer funciones de medios sociales y para analizar el tráfico. Además, compartimos información sobre el uso que haga del sitio web con nuestros partners de medios sociales, de publicidad y de análisis web. Ver detalles.

IMPORTANTE: Todas las publicaciones son sin fines comerciales ni económicos. Todos los textos de mi autoría tienen ©todos los derechos reservados. Los contenidos en los link (vínculos) de las notas replicadas (reproducidas) y/o citadas son de exclusiva responsabilidad de sus autores. Éste blog ni su autor tienen responsabilidad alguna por contenidos ajenos.

Ucrania desarrolla robots de combate con inteligencia artificial

Ucrania ve nacer la era de los robots asesinos impulsados por IA

Por Paul Mozur y Adam Satariano para The New York Times

Un dron armado con una ojiva, que se utilizará en la línea del frente
en la región de Járkov, al noreste de Ucrania.
Finbarr O'Reilly para The New York Times

En un campo a las afueras de Kiev, los fundadores de Vyriy, una empresa ucraniana de drones, trabajaban hace poco en un arma del futuro.

Para mostrar cómo funcionaba, Oleksii Babenko, de 25 años, director ejecutivo de Vyriy, se subió a su motocicleta y recorrió un camino de tierra. Detrás de él, lo seguía un dron, mientras un colega monitoreaba los movimientos desde una computadora del tamaño de un portafolio.

Hasta hace poco, un humano habría pilotado el cuadricóptero. Ya no. En cambio, después de que el dron fijara su objetivo —Babenko— voló por sí solo, guiado por un software que utilizaba la cámara de la máquina para rastrearlo.

El rugido del motor de la motocicleta no fue rival para el dron silencioso que acechaba a Babenko.

Si el dron hubiera estado armado con explosivos y si sus colegas no hubieran desactivado el rastreo autónomo, Babenko habría muerto.

Vyriy es tan solo una de las muchas empresas ucranianas que trabajan para dar un gran paso adelante en la militarización de la tecnología de consumo, motivada por la guerra con Rusia.

Leer el artículo completo en The New York Times

___________________

NOTA: Las cookies de este sitio se usan para personalizar el contenido y los anuncios, para ofrecer funciones de medios sociales y para analizar el tráfico. Además, compartimos información sobre el uso que haga del sitio web con nuestros partners de medios sociales, de publicidad y de análisis web. Ver detalles.

IMPORTANTE: Todas las publicaciones son sin fines comerciales ni económicos. Todos los textos de mi autoría tienen ©todos los derechos reservados. Los contenidos en los link (vínculos) de las notas replicadas (reproducidas) y/o citadas son de exclusiva responsabilidad de sus autores. Éste blog ni su autor tienen responsabilidad alguna por contenidos ajenos.

La Unión Europea aprobó el AI Act

La Unión Europea aprobó la primera ley en el Mundo para regular la Inteligencia Artificial: así funcionará

El AI Act busca controlar las capacidades avanzadas de la IA generativa y los riesgos relacionados con el uso de material protegido por derechos de autor

Por Rossana Marín, publicado por Infobae

La Unión Europea dio luz verde a la primera ley mundial para regular
la inteligencia artificial. (Europa Press/Budrul Chukrut). Visto en Infobae

La Unión Europea (UE) finalmente dio luz verde a la primera ley importante a nivel mundial para la regulación de la inteligencia artificial (IA). Se trata del AI Act, una normativa pionera que establece reglas comprensivas sobre la tecnología de IA.

El lanzamiento de ChatGPT por OpenAI puso de manifiesto la falta de detalle en la legislación existente para abordar las capacidades avanzadas de la IA generativa emergente y los riesgos relacionados con el uso de material protegido por derechos de autor. Esto llevó a los funcionarios a reconocer la necesidad de una normativa más específica...

Lea el artículo completo en Infobae

Post relacionado:

• Sobre la Declaración de Bletchley. JSK Blog. 02/11/2023.

 

___________________

NOTA: Las cookies de este sitio se usan para personalizar el contenido y los anuncios, para ofrecer funciones de medios sociales y para analizar el tráfico. Además, compartimos información sobre el uso que haga del sitio web con nuestros partners de medios sociales, de publicidad y de análisis web. Ver detalles.

IMPORTANTE: Todas las publicaciones son sin fines comerciales ni económicos. Todos los textos de mi autoría tienen ©todos los derechos reservados. Los contenidos en los link (vínculos) de las notas replicadas (reproducidas) y/o citadas son de exclusiva responsabilidad de sus autores. Éste blog ni su autor tienen responsabilidad alguna por contenidos ajenos.

La IA como piloto de combate

La estrategia de EEUU para adelantarse a China en el uso de la Inteligencia Artificial en operaciones militares.

Experimentos con campos magnéticos terrestres buscan ofrecer soluciones eficaces frente a la vulnerabilidad de los sistemas de navegación por satélite, mostrando avances significativos en tecnología de defensa.

Por Rossana Marín, publicado por Infobae.

Este F-16 pilotado por IA mostró potencial en ejercicios de combate en California. (AP/Damian Dovarganes). Visto en Infobae

La Fuerza Aérea de los Estados Unidos llevó a cabo un ejercicio de combate aéreo en California que involucró a dos jets de combate, uno de ellos pilotado por Inteligencia Artificial (IA) y otro por un piloto humano.

Este desarrollo demuestra el compromiso de Estados Unidos por mantenerse a la vanguardia frente a China en lo que respecta a la utilización de la IA en sistemas de armamento, especialmente en momentos donde la navegación autónoma y el vuelo de aeronaves sin intervención directa humana se están convirtiendo en una realidad tangible.

Lea la nota completa en Infobae

 

___________________

NOTA: Las cookies de este sitio se usan para personalizar el contenido y los anuncios, para ofrecer funciones de medios sociales y para analizar el tráfico. Además, compartimos información sobre el uso que haga del sitio web con nuestros partners de medios sociales, de publicidad y de análisis web. Ver detalles.

IMPORTANTE: Todas las publicaciones son sin fines comerciales ni económicos. Todos los textos de mi autoría tienen ©todos los derechos reservados. Los contenidos en los link (vínculos) de las notas replicadas (reproducidas) y/o citadas son de exclusiva responsabilidad de sus autores. Éste blog ni su autor tienen responsabilidad alguna por contenidos ajenos.

Vivimos en una simulación ¿?

Un postulado es una proposición no evidente por sí misma ni demostrada, pero que se acepta, ya que no existe otro principio al que pueda ser referida.

En informática hay un antiguo postulado que dice: "lo que funciona bien, no se cambia"

Espero que si ciertamente estoy en una simulación, no se les ocurra cambiar nada, salvo exista una sustancial mejora general en el país. Y que sea un upgrade de los muy buenos, efectivamente probado.

En ésta línea, recuerden que "el Universo no te da lo que quieres, responde a lo que eres"

La alarmante teoría de Elon Musk sobre la humanidad, el universo y la realidad en que vivimos

Foto: Pixabay, vista en Infobae

La Teoría de la Simulación, siguiendo la línea de la saga fílmica Matrix, indica que la humanidad vive dentro de un programa informático. Qué dice el empresario y magnate al respecto.

¿Qué es la teoría de la simulación?

Esta idea forma parte de la llamada hipótesis de la simulación que es una teoría que propone que tanto el mundo como todo lo que habita en él son producto de una realidad simulada, al igual que también lo es el resto del universo...Lea el artículo completo

___________________

NOTA: Las cookies de este sitio se usan para personalizar el contenido y los anuncios, para ofrecer funciones de medios sociales y para analizar el tráfico. Además, compartimos información sobre el uso que haga del sitio web con nuestros partners de medios sociales, de publicidad y de análisis web. Ver detalles.

IMPORTANTE: Todas las publicaciones son sin fines comerciales ni económicos. Todos los textos de mi autoría tienen ©todos los derechos reservados. Los contenidos en los link (vínculos) de las notas replicadas (reproducidas) y/o citadas son de exclusiva responsabilidad de sus autores. Éste blog ni su autor tienen responsabilidad alguna por contenidos ajenos.

Muy interesante: 19 cursos sobre Inteligencia Artificial

Visto en Infobae

Lista de 19 cursos para aprender sobre inteligencia artificial este fin de año

IBM y Coursera anunciaron el lanzamiento de 19 cursos centrados en el fortalecimiento de conocimientos dentro de los campos de la ingeniería de IA, ciberseguridad, ciencia de datos y más, con el fin de que los estudiantes puedan robustecer sus hojas de vidas ya que se ofrece un certificado... Leer el artículo completo

___________________

NOTA: Las cookies de este sitio se usan para personalizar el contenido y los anuncios, para ofrecer funciones de medios sociales y para analizar el tráfico. Además, compartimos información sobre el uso que haga del sitio web con nuestros partners de medios sociales, de publicidad y de análisis web. Ver detalles.

IMPORTANTE: Todas las publicaciones son sin fines comerciales ni económicos. Todos los textos de mi autoría tienen ©todos los derechos reservados. Los contenidos en los link (vínculos) de las notas replicadas (reproducidas) y/o citadas son de exclusiva responsabilidad de sus autores. Éste blog ni su autor tienen responsabilidad alguna por contenidos ajenos.

Microsoft conduce la idea original de OpenAI y su ChatGPT

La idea original de OpenAI y su ChatGPT ha muerto: ahora, Microsoft está al mando.

El cambio de compañía de Sam Altman, líder del sector de inteligencia artificial, llevó a los analistas a predecir que la empresa fundada por Bill Gates podría dominar el campo.

Por Will Oremus, Julian Mark y Eli Tan para The Washington Post / Leído en Infobae.

Sam Altman, ex CEO y miembro de la junta directiva de OpenAI (EFE)
Visto en Infobae

OpenAI, que se tambaleaba el lunes tras la destitución de su consejero delegado, Sam Altman, y su posterior contratación por Microsoft, nunca estuvo destinada a ser la típica start-up tecnológica de altos vuelos. La creadora de herramientas de inteligencia artificial tan populares como ChatGPT y Dall-E se fundó en 2015 como una organización sin ánimo de lucro, con la misión declarada de desarrollar la IA de la manera “más probable para beneficiar a la humanidad en su conjunto, sin restricciones por la necesidad de generar un rendimiento financiero”.

La idea era que una organización sin ánimo de lucro pudiera anteponer la ética a los beneficios y la seguridad a una carrera por desarrollar y comercializar una tecnología que sus fundadores creían que podía suponer una amenaza existencial para la raza humana.

Pero tras la sorprendente destitución de Altman, seguida de su aparente salto a Microsoft y de un motín entre el personal de OpenAI exigiendo su reincorporación, esa idea se tambalea. Y nadie se beneficiará más que Microsoft, que ahora puede trabajar con Altman y potencialmente con muchos de sus leales sin las limitaciones de la junta sin ánimo de lucro de OpenAI.

Opinión: el uso de la Inteligencia Artificial con fines militares

Los desafíos de la inteligencia artificial en el campo militar

Es necesario ejercer mayor presión internacional para que se estimulen e intercambien buenas prácticas y se adopten principios éticos en el uso de la IA con fines militares.

Por Roberto García Moritán, publicado por Clarín

Imagen decorativa, vista en Defensa.com

La aplicación de la inteligencia artificial (IA) a la carrera de armamentos no es un hecho nuevo aunque ha adquirido una dimensión que merece atención como todos los demás ámbitos de la informática para fines militares. Desde hace medio siglo el concepto se utiliza en relación con el software.

También las armas inteligentes aparecieron en el siglo pasado. Ya entonces existían, por ejemplo, el guiado de misiles sin intervención humana o, en el caso más extremo, la llamada Mano Muerta, que puede dar la orden de un ataque nuclear de represalia si considera que las personas que lo controlan ya han fallecido.

Las últimas décadas han producido en avance geométrico de la aplicación de la IA a los sistemas de armamentos. Según el SIPRI, no se trata de una tecnología en si misma sino de capacidades de aplicación militar que hace a los armamentos potencialmente más eficientes, más baratos, mas compactos y más autónomos.

Los más conocidos son los drones. También la detección y análisis de posibles amenazas. La IA tiene hoy la capacidad no solo de evaluar la situación en el campo de batalla sino de hasta predecir el futuro basándose en las acciones del enemigo e incluso tomar una decisiones militares por sí misma.

Sobre la Declaración de Bletchley

La Declaración de Bletchley sobre la IA es un documento firmado por 29 países y organizaciones internacionales, incluyendo a Reino Unido, Estados Unidos, la Unión Europea y la ONU. El documento que establece un conjunto de principios para el desarrollo y la aplicación de la inteligencia artificial (IA), y fue firmado el 1 de noviembre de 2023, en una cumbre celebrada en Bletchley Park, Inglaterra, el lugar donde se desarrolló el primer descifrador de códigos Enigma durante la Segunda Guerra Mundial.

La declaración ha sido elogiada por su énfasis en la cooperación internacional, la transparencia y la responsabilidad. También se ha destacado su enfoque en los riesgos de la IA de vanguardia, que son los sistemas que aún están en desarrollo pero que tienen el potencial de causar daños significativos.

La declaración reconoce el potencial de la IA para mejorar nuestras vidas en muchos aspectos, pero también alerta sobre los posibles riesgos que conlleva su desarrollo y uso. 

Entre los riesgos que se identifican se encuentran:

• El uso de la IA para crear armas autónomas, que podrían causar daños indiscriminados.
• El uso de la IA para difundir información errónea o propaganda, que podría socavar la democracia y la estabilidad social.
• El uso de la IA para discriminar a las personas por su raza, género, religión u otras características.

En la declaración los firmantes se comprometen a trabajar juntos para abordar estos riesgos y asegurar que la IA se desarrolle y utilice de manera segura y responsable. Para ello, los países firmantes se comprometen a:

• Promover la transparencia y la responsabilidad en el desarrollo y uso de la IA.
• Desarrollar normas y principios internacionales para la IA.
• Invertir en la investigación y el desarrollo de la IA ética.

En general, la Declaración de Bletchley ha sido recibida con una respuesta positiva por parte de la comunidad internacional. Se considera que es un paso importante para asegurar que la IA se desarrolle y utilice de manera responsable y segura.

Los nuevos trabajos y las nuevas carreras gracias a la IA

6 trabajos que la Inteligencia Artificial está creando y qué tipo de preparación requieren

Por Margarita Rodríguez, publicado por BBC News Mundo.

“Hay muchos estudios que dicen que la Inteligencia Artificial (IA) está creando más empleos que los que destruye”.

De hecho, están naciendo nuevas carreras, le dice a BBC Mundo Elena Ibáñez, CEO de Singularity Experts, una startup que brinda asesoría laboral.

Imagen de Getty Images, vista en BBC News Mundo

Y, al mismo tiempo, esa tecnología “está haciendo evolucionar profesiones tradicionales en absolutamente todos los sectores”.

La pregunta -dice la experta- no es hacia dónde apuntan las oportunidades laborales, sino en qué nos tenemos que formar dentro de nuestras profesiones para capturar las oportunidades que la IA está generando.

“Lo que estamos viendo en el mercado, sobre todo hablando con clientes tanto del sector tecnológico como de industrias más tradicionales, no es que la IA viene a destruir empleos”, le dice a BBC Mundo Francisco Scaserra, líder de Tecnología en Argentina de la compañía de reclutamiento de personal Michael Page.

“Probablemente seguimos pensando en los humanos para tareas que son demasiado básicas, creo que el gran desafío es hacer que las posiciones que ya existen evolucionen para tener un valor agregado diferente y no se queden con la transaccionalidad. De ella se puede encargar la IA”.

Creer que la IA es solo un asunto de Silicon Valley y las grandes tecnológicas, es no ver el abanico en toda su amplitud.

El año pasado, por ejemplo, el Departamento de Operaciones de Paz de las Naciones Unidas buscaba un experto en IA y Machine Learning (aprendizaje automático). Y de hecho, en el Instituto Interregional de la ONU para Investigaciones sobre Delincuencia y Justicia opera un Centro de IA y Robótica.

"Imparable"

Pese a la perspectiva negativa con la que muchas personas ven la IA, no solo por su efecto en el mercado laboral, sino por el poder que temen puede llegar a desarrollar, no todos ven el panorama sombrío.

Si bien el Foro Económico Mundial indicó, en un informe de 2020, que la fuerza laboral se estaba automatizando “más rápido de lo esperado, desplazando a 85 millones de puestos de trabajo” para 2025, apuntó a que “la revolución robótica creará 97 millones de nuevos empleos”.

En abril, Gilbert F. Houngbo, director general de la Organización Internacional del Trabajo (OIT) fue contundente: “La inteligencia artificial es imparable. Tenemos que aceptar que avanzará más y más”.

Black Hat Las Vegas: La primera conferencia apuntó contra la seguridad de la IA

Black Hat Las Vegas: "Hay una carrera corporativa armamentista por la inteligencia artificial, pero no se impulsa la seguridad"

Maria Markstedter, experta en ciberseguridad, abrió una de las conferencias de seguridad informática más grandes del mundo. Críticas al avance de la IA.

Por Juan Brodersen, publicado por Clarín.

Black Hat, uno de los eventos más grandes de ciberseguridad del mundo
Foto Juan Brodersen. Vista en Clarín

“Los modelos de lenguaje de inteligencia artificial (IA) son como adolescentes problematizados”: con estas palabras se inauguró la edición 2023 de Black Hat, una de las conferencias de seguridad informática más grandes del mundo, en Las Vegas.

Con un auditorio repleto en el centro de convenciones del Mandalay Bay, Maria Markstedter, investigadora experta en ciberataques y vulnerabilidades, advirtió sobre los problemas del uso masivo de IA sin atender a la seguridad.

“Hay una carrera armamentista corporativa por la IA pero no impulsada por la seguridad: se sigue el lema ‘movete rápido y rompé cosas’, como sucedió con el primer modelo de iPhone”, siguió Markstedter. Su referencia es a un modelo de teléfono que fue “tan inseguro que estaba lleno de errores, vulnerabilidades”, recordó.

Markstedter es la fundadora de Azeria Labs, un centro de análisis de vulnerabilidades, actores de amenazas y ciberataques. Experta en lo que se conoce como “ingeniería inversa” y “desarrollo de exploits [vulnerabilidades], hizo hincapié en la cantidad de sistemas que se están creando sobre modelos de IA que no tienen desarrollos fuertes en ciberseguridad.

Según explicó, esto se puede comprobar en la cantidad de problemas que se generaron desde que se popularizó Chat GPT, incluso con filtraciones de datos personales de quienes se registraron en la herramienta de OpenAI. “Las compañías quieren controlar la información de los usuarios para integrarlos a sus productos y esto hace que funcionen dentro de su propia infraestructura”, advirtió.

"Los sistemas de IA y sus casos de uso y capacidades son cada vez más potentes: tenemos que tomarnos en serio la posibilidad de que los agentes autónomos de IA se conviertan en una realidad dentro de nuestra empresa”, sumó en su “keynote”, como se conocen a las charlas principales de este tipo de eventos.

Beneficios del uso de la IA en la industria de la defensa y seguridad

Ante la pregunta: ¿por qué el uso de la inteligencia artificial en la industria de la defensa y seguridad impulsa el desarrollo de tecnologías que mejoran la calidad de vida de los ciudadanos?

La respuesta:

Imagen: Captura de pantalla del vídeo de Netflix, Unknown: Killer Robots (2023).

La inteligencia artificial (IA) está revolucionando la forma en que se llevan a cabo las operaciones de seguridad y defensa en todo el mundo. Los usos de la IA en la industria de la defensa pueden variar desde sistemas autónomos de vigilancia y reconocimiento hasta herramientas avanzadas de análisis de datos. Aunque los beneficios directos de la IA en defensa pueden ser evidentes, hay varias formas indirectas en que estas tecnologías de defensa también pueden mejorar la calidad de vida de los ciudadanos. Aquí hay algunos aspectos importantes a considerar:

Tecnologías Civiles de Doble Uso: Muchas de las tecnologías que inicialmente se desarrollaron para fines militares, de defensa, y de seguridad han encontrado aplicaciones en la vida civil, lo que ha contribuido a mejorar la calidad de vida de los ciudadanos. Por ejemplo, el internet y el GPS, que se desarrollaron originalmente con fines de defensa, se han convertido en parte integral de la vida cotidiana. Del mismo modo, la IA desarrollada para la defensa y seguridad pueden encontrar aplicaciones en áreas que benefician directamente a los ciudadanos. Los algoritmos de aprendizaje automático utilizados para el análisis de imágenes de satélite pueden usarse en meteorología para predecir desastres naturales, en agricultura para mejorar los rendimientos de los cultivos, o en la medicina para el diagnóstico de enfermedades.

Prevención de Conflictos y Seguridad: Los sistemas de IA pueden analizar grandes cantidades de datos para identificar patrones y tendencias que pueden indicar amenazas potenciales para la seguridad. Esto puede permitir una respuesta más rápida y eficiente a las amenazas, ayudando a prevenir conflictos o reducir su gravedad. Además, el uso de IA en la defensa puede disuadir a posibles agresores, contribuyendo a mantener la paz y la seguridad. Todo esto conduce a una mayor estabilidad y a un ambiente más seguro para los ciudadanos.

El aprendizaje automático en la ciberseguridad. La ciberseguridad con IA con el apoyo del aprendizaje automático está destinada a ser una herramienta potente en el futuro. Ya está ayudando a los analistas de operaciones de seguridad con pocos recursos a anticiparse a las amenazas. Al mejorar la velocidad y la precisión de la detección de amenazas y la respuesta, la IA puede ayudar a reducir el impacto de los ciberataques. La IA también puede ayudar a mejorar la eficiencia de las operaciones de ciberseguridad, liberando tiempo y recursos valiosos para otras tareas.

Alertan peligro sobre el ChatGPT

Hallazgo científico y alerta sobre el ChatGPT: "Podría ser necesario restringirlo"

Conclusiones tras un experimento que reveló que son más creíbles los contenidos falsos sobre ciencia y salud hechos por el robot que los que crean los seres humanos.

La aplicación ChatGPT de uso masivo en cualquier celular plantea dudas sobre sus alcances. Foto: AP

Por Pablo Sigal, publicado por Clarín ©2023

Posts relacionados:

• Beneficios del uso de la IA en la industria de la defensa y seguridad. JSK Blog. 28/07/2022.
• Destacan que la IA podría generar posibles eventos de “extinción” para la sociedad. JSK Blog. 31/05/2023.
• Sobre el ChatGPT. JSK Blog. 31/05/2023.
• La Inteligencia Artificial hace tiempo que reemplaza a humanos. JSK Blog. 25/03/2023.
• Los algoritmos dominan y definen. JSK Blog. 01/12/2022.

___________________

NOTA: Las cookies de este sitio se usan para personalizar el contenido y los anuncios, para ofrecer funciones de medios sociales y para analizar el tráfico. Además, compartimos información sobre el uso que haga del sitio web con nuestros partners de medios sociales, de publicidad y de análisis web. Ver detalles.

IMPORTANTE: Todas las publicaciones son sin fines comerciales ni económicos. Todos los textos de mi autoría tienen ©todos los derechos reservados. Los contenidos en los link (vínculos) de las notas replicadas (reproducidas) y/o citadas son de exclusiva responsabilidad de sus autores. Éste blog ni su autor tienen responsabilidad alguna por contenidos ajenos.

La pregunta clave es: ¿cómo regular la IA?

Tal como lo dicen muchos, finalmente, la inteligencia artificial (IA) llegó a las manos de la gente común que no necesita conocimientos técnicos para manejar aplicaciones basadas en IA.

La inteligencia artificial tiene un impacto significativo en la sociedad y presenta varios desafíos. Entre ellos:

• Cambio en los empleos: La IA está automatizando muchos trabajos, lo que podría conducir a la desaparición de algunos empleos y la creación de otros nuevos.
• Sesgos y discriminación: Los algoritmos de IA se crean a partir de datos y, por lo tanto, pueden resultar sesgados o discriminatorios. Si los algoritmos se utilizan para tomar decisiones importantes, la discriminación resultante podría ser perjudicial.
• Privacidad: La IA amplía la capacidad de recopilar y analizar grandes cantidades de datos, lo que podría conducir a la invasión de la privacidad de las personas.
• Desarrollo y mantenimiento: El desarrollo y el mantenimiento de la IA son costosos y requieren expertos en el campo, lo que podría significar una mayor dependencia de empresas y países más ricos.
• Responsabilidad moral: La IA podría ser utilizada para cometer delitos o para tomar decisiones negativas para la sociedad. Por lo tanto, existe la necesidad de establecer responsabilidades éticas y legales para su uso.
• Seguridad: La IA también podría ser utilizada con fines malintencionados, como hackear sistemas o atacar infraestructuras críticas.

En conclusión, la IA ofrece grandes beneficios en términos de eficiencia y productividad. Sin embargo, también presenta desafíos importantes que deben ser abordados para garantizar una implementación responsable y justa. Sin dudas el reto más importante de la IA es su regulación.

La regulación de la IA puede ser un desafío complejo, pero es importante para garantizar que se utilice de manera responsable y ética. 

Algunas medidas que podrían implementarse para regular la IA y proteger a los ciudadanos:

Destacan que la IA podría generar posibles eventos de “extinción” para la sociedad

OpenAI y otros expertos alertan una extinción tras la inteligencia artificial, como si fuera una pandemia

El pronunciamiento compara los peligros de estos programas con guerras nucleares

Por Renato Silva, publicado por Infobae

Un breve comunicado publicado por el Centro para la Seguridad de Inteligencia Artificial y que fue firmado por expertos y personalidades reconocidas en el campo de la tecnología, como el CEO de OpenAI, Sam Altman, ha destacado que la inteligencia artificial podría generar posibles eventos de “extinción” para la sociedad.

La declaración, que se reduce únicamente a un párrafo introductorio y una frase final, indica que aún cuando se están debatiendo formas para regular las inteligencias artificiales, se tiene que centrar la atención en mitigar los posibles peligros que pueda traer consigo la creación de versiones mucho más avanzadas de estos programas.

“Mitigar el riesgo de extinción por IA debería ser una prioridad global junto con otros riesgos para la sociedad como las pandemias y una guerra nuclear”, coinciden los expertos entre los que se encuentran Demis Hassabis, CEO de Google DeepMind; Kevin Scott, CTO de Microsoft, Jaan Tallinn, cofundador de Skype, entre otros científicos y personalidades reconocidas.

Aunque Altman indicó en entrevistas durante el año 2023, que la inteligencia artificial con capacidad para dominar al mundo como se presenta en las películas, sí aseguró que teme que pueda ser utilizada para generar contenido dirigido a desinformar a las personas.

Aún cuando Altman aseguró que estos programas se benefician del contacto con los humanos y permiten identificar y corregir errores pequeños antes de que se generen otros mayores, sí se mostró muy a favor de la regulación de este tipo de tecnología para proteger la seguridad de los usuarios en internet.

Sobre el ChatGPT

Ciertamente, solo necesita "jugar" por un corto tiempo con el famoso chat "inteligente", prototipo de chatbot de inteligencia artificial desarrollado en 2022 por OpenAI, para entender que está lejos de ser el robot supremo que todo lo sabe y que la novedosa tecnología es insegura.

Logo del ChatGPT de OpenAI. Visto en Wikipedia

Entre los entendidos y "expertos" que lo prueban y analizan, no pocos lo consideran que puede ser propenso a ser oscuro. Se señala que tiene una tendencia a la verosimilitud en sus resultados.

En la practica uno le pregunta algo y ChatGPT responde, pero como toda IA en fase de desarrollo, no son pocos los que han encontrado errores. Lo malo de esto es que muchos "diletantes" no reconocen los errores, usan y comparten información errónea, retroalimentado la base de información de la que se "nutre" el mismo ChatGPT.

Hay que tener muy en cuenta que "los responsables ya nos advierten en la ventana principal de ChatGPT de lo que hace y no hace esta IA. Entre sus limitaciones, OpenAI nos dice que, en ocasiones, puede generar información incorrecta. También dice que puede crear contenido sesgado o instrucciones perjudiciales. Y, finalmente, que tiene conocimientos limitados del mundo y no sabe qué ha ocurrido después de 2021" (Hipertextual).

En cuanto a la ciberseguridad, se ha informado que los ataques de inyección de prompt pueden provocar que los usuarios caigan en la trampa de estafas y robo de información cuando utilizan los chatbots de IA.