Invitados Clave: Adrián Hontoria Sánchez Capitulo Estudiantil del IEEE Computer Society Universidad Nacional de Colombia

Archivos adjuntos Conversatorio con Alumnos Universidad Nacional de Colombia y Adrián Hontoria en Madrid. 

 

Resumen

Daniel Echeverria introdujo a Adrián Hontoria Sánchez, quien compartió su experiencia uniendo software y literatura con la IA, destacando su evolución, el concepto de agentes de IA y el potencial interdisciplinario con ejemplos en derecho y medicina. Adrián Hontoria Sánchez y Daniel Echeverria discutieron desafíos como la calidad de los datos, sesgos, implicaciones éticas y jurídicas en medicina, privacidad, implementación en dispositivos móviles, el impacto en psicología, la posibilidad de relaciones afectivas con IA, el uso de deep learning, el posible monopolio en el desarrollo de la IA y la computación cuántica. Adrián Hontoria Sánchez también abordó el uso de la IA en educación, los desafíos para el paradigma educativo, la evolución de la profesión del software y recomendó recursos para aprender sobre IA, coincidiendo con Daniel Echeverria en que la regulación específica de la IA es prematura.

Detalles

• Introducción al Conversatorio Daniel Echeverria presentó a Adrián Hontoria Sánchez, quien expresó su placer por compartir su experiencia uniendo el desarrollo de software con la literatura, particularmente en relación con la inteligencia artificial. Daniel también informó que la conversación sería grabada para estudiantes de la Universidad Nacional de Colombia y destacó el esfuerzo multicultural del Amsterdam Institute y la universidad, con la visión de un impacto significativo de la IA en Hispanoamérica debido a la mano de obra existente.
• La Evolución de la IA y su Impacto en el Desarrollo de Software Adrián Hontoria Sánchez, CEO de The Blackbox Lab, compartió su trayectoria de 20 años en el sector, desde la ingeniería informática y ciberseguridad hasta presenciar la revolución de la IA. Adrián notó un cambio en la demanda de su agencia, pasando del desarrollo tradicional de aplicaciones web y móviles a integraciones más complejas para prototipos de IA y servicios de atención al cliente automatizados por IA.
• Agentes de IA y la Filosofía AI First Adrián explicó el concepto de agentes de IA, que van más allá de los modelos de lenguaje para realizar funciones específicas e incluso comunicarse entre sí para completar tareas, como la gestión de consultas de clientes y la derivación de solicitudes de presupuesto. Adrián señaló que la creación de una infraestructura de agentes era ciencia ficción hace poco tiempo y alertó sobre cómo la IA está impactando el trabajo de los propios creadores de IA, aunque también genera nuevas oportunidades.
• El Potencial Interdisciplinario de la IA Daniel Echeverria resaltó el carácter interdisciplinario de la IA, mencionando sus efectos prometedores en campos como el derecho, donde los chatbots automatizan contratos y denuncias, e incluso existen robots abogados en México para comunidades con recursos limitados. Daniel subrayó que la IA presenta tanto riesgos como aspectos positivos, contribuyendo a la masificación de servicios y a una sociedad más conectada.
• Desafíos en la Toma de Decisiones de la IA y la Calidad de los Datos El Capitulo Estudiantil del IEEE Computer Society Universidad Nacional de Colombia preguntó sobre el desarrollo de la IA para la toma de decisiones más allá de sus límites actuales. Adrián Hontoria Sánchez enfatizó el riesgo de no entrenar adecuadamente los modelos de IA con datos precisos, lo que puede llevar a “alucinaciones” o respuestas incorrectas, especialmente al dar presupuestos fuera de su entrenamiento específico. Adrián destacó la importancia del entrenamiento y el “fine-tuning” para mitigar estos problemas.
• La Democratización de la IA y su Impacto Social Adrián Hontoria Sánchez señaló que la IA, aunque teóricamente existente desde los años 50, experimentó una explosión gracias a la infraestructura big data y cloud. Adrián atribuyó el mayor impacto de la IA generativa en comparación con el machine learning a la estrategia de OpenAI de llevar la IA a los hogares a través de un chat accesible a cualquier usuario, lo que generó nuevas oportunidades y roles como los ingenieros de prompts.
• La Programación de Lenguajes de IA y el Margen de Error Alejandro preguntó sobre la programación de lenguajes de IA y el margen de error al programar modelos. Adrián Hontoria Sánchez explicó que la programación de IA es radicalmente diferente de la programación determinista tradicional, involucrando entrenamiento de modelos con grandes cantidades de datos, matemáticas, estadística y un extenso proceso de prueba y error para mejorar la precisión.
• La IA en la Medicina: Potencial y Dilemas El Capitulo Estudiantil del IEEE Computer Society Universidad Nacional de Colombia consultó sobre el potencial de la IA en la medicina, especialmente en Latinoamérica, para diagnóstico y tratamiento. Adrián Hontoria Sánchez señaló que actualmente la IA es más una herramienta para los médicos, ayudando en la detección y síntesis de tratamientos, pero que la decisión final sigue siendo del profesional de la salud. Adrián anticipó que la IA podría operar de forma independiente en el futuro, citando el ejemplo de la cirugía robótica.
• Implicaciones Jurídicas y Éticas de la IA en la Medicina Daniel Echeverria abordó las implicaciones jurídicas del avance de la IA en la medicina, como la predicción de enfermedades oncológicas, lo que plantea desafíos para garantizar el acceso a la salud y reformar los sistemas legislativos. Adrián Hontoria Sánchez añadió el debate ético sobre el uso de la IA predictiva por parte de las aseguradoras y la necesidad de proteger la privacidad de los datos genéticos para evitar discriminación económica.
• Privacidad de Datos y Regulación en la Era de la IA Daniel Echeverria enfatizó la necesidad de evolucionar las políticas de privacidad de datos ante los avances de la IA, considerando los datos como un nuevo “commodity” de la economía. Adrián Hontoria Sánchez, como experto en ciberseguridad, alertó sobre los riesgos de la IA en términos de confidencialidad, integridad y disponibilidad de los datos, mencionando fugas, “prompt injection”, alucinaciones y problemas de acceso.
• Implementación de la IA en Dispositivos Móviles y Wearables Mariana preguntó sobre la posibilidad de implementar la IA para predicciones de salud en dispositivos móviles. Adrián Hontoria Sánchez cree que será posible, pero el desafío actual radica en la gran capacidad de computación que requieren los modelos de IA, aunque se está trabajando en modelos locales y optimizados para estos dispositivos.
• Sesgos en la IA: Origen, Impacto y Soluciones El Capitulo Estudiantil del IEEE Computer Society Universidad Nacional de Colombia preguntó sobre el impacto de los sesgos en la IA, recordando ejemplos en redes sociales. Adrián Hontoria Sánchez explicó que los sesgos pueden originarse en los datos de entrenamiento y son difíciles de eliminar, pero las empresas están trabajando en reentrenamiento y “fine-tuning” para contrarrestarlos. Daniel Echeverria mencionó iniciativas legales y ejemplos de sesgos problemáticos en áreas como la justicia y la conducción autónoma, subrayando que la IA actual refleja los sesgos de la sociedad.
• El Impacto de la IA en la Psicología y la Relación Humano-Máquina Alejandro preguntó sobre el impacto de la IA en la psicología y cómo las personas se relacionan con los chats. Adrián Hontoria Sánchez señaló un estudio reciente que muestra cómo los usuarios están tratando a la IA de manera más humana, lo que puede tener un impacto en nuestro cerebro. Adrián también mencionó cómo la forma en que se le pregunta a la IA puede influir en la calidad de sus respuestas, difuminando la línea entre la interacción humano-máquina. Daniel Echeverria añadió la preocupación por la cantidad de datos sensibles que los jóvenes comparten con la IA sin conciencia de su valor.
• Responsabilidad y Futuro de las Relaciones con la IA Adrián Hontoria Sánchez abordó el tema de la responsabilidad en casos donde la IA pueda tener consecuencias negativas, como inducir a la depresión. El Capitulo Estudiantil del IEEE Computer Society Universidad Nacional de Colombia preguntó sobre la posibilidad de relaciones afectivas con robots con IA en el futuro. Adrián Hontoria Sánchez cree que es posible en unos 50 años, mencionando sus novelas que exploran este tema y la complejidad del salto de la IA del mundo virtual al físico, especialmente en la robótica con tacto y sensibilidad. Daniel Echeverria recomendó los libros de Adrián sobre la evolución de la humanidad y la IA.
• Deep Learning y Proyectos de Prevención Mariana preguntó si se utiliza deep learning en proyectos de prevención. Adrián Hontoria Sánchez afirmó que sí, y que actualmente se utiliza una mezcla de diferentes arquitecturas y modelos, incluyendo la IA generativa para validaciones cruzadas y entrenamiento con datos sintéticos.
• Monopolio en el Desarrollo de la IA y la Posición de Latinoamérica Yulita preguntó sobre las consecuencias del posible monopolio del desarrollo de la IA por parte de Estados Unidos y China, y la posición de Latinoamérica. Adrián Hontoria Sánchez reconoció la dificultad de competir con estos gigantes, mencionando intentos europeos como Mistral y Alia, y sugirió que cada región busque sus fortalezas, como la regulación en Europa. Daniel Echeverria lo relacionó con la geopolítica y la computación cuántica, viendo la competencia como una guerra de recursos donde Latinoamérica podría enfocarse en la tropicalización de la IA.
• La Computación Cuántica como Punto de Inflexión Tecnológico Adrián Hontoria Sánchez y Daniel Echeverria mencionaron la computación cuántica como otro importante punto de inflexión tecnológico. Adrián explicó su complejidad técnica, incluyendo la necesidad de temperaturas extremadamente bajas, y aunque podría romper la criptografía clásica, su implementación a gran escala es muy lejana y requeriría cambios en toda la infraestructura.
• La IA como Herramienta en la Educación y el Diseño El Capitulo Estudiantil del IEEE Computer Society Universidad Nacional de Colombia preguntó sobre el uso de la IA como herramienta para diseños complejos en educación. Adrián Hontoria Sánchez destacó herramientas como Notebook LM de Google y las funciones de proyectos de Chat GPT, que permiten trabajar con documentos propios para generar notas, gráficos y resúmenes, facilitando el aprendizaje personalizado.
• Desafíos de la IA en el Paradigma Educativo Adrián Hontoria Sánchez profundizó en los desafíos que la IA presenta para la educación, cuestionando el valor de los trabajos y exámenes tradicionales cuando los alumnos pueden recurrir a la IA para generar contenido de alta calidad. Adrián sugirió que la educación debe evolucionar, enfocándose menos en la memoria y más en la creatividad, el uso crítico de la información y la verificación de fuentes.
• Reflexión Profesional sobre la Evolución del Software y la IA El Capitulo Estudiantil del IEEE Computer Society Universidad Nacional de Colombia pidió a Adrián Hontoria Sánchez su perspectiva como ingeniero sobre la evolución de su profesión y consejos para los asistentes. Adrián destacó el impacto drástico de la IA en el desarrollo de software, cambiando la forma de trabajar y la demanda, aunque la base de la programación persiste. Adrián señaló la velocidad vertiginosa de estos cambios como un desafío, pero también resaltó las herramientas que multiplican la capacidad de producción, reduciendo tiempos y errores en proyectos como el comercio electrónico.
• Recursos para el Aprendizaje e Investigación en IA y Preparación para Cambios Regulatorios Carlos preguntó dónde encontrar buenos recursos para aprender e investigar en IA, y el Capitulo Estudiantil del IEEE Computer Society Universidad Nacional de Colombia preguntó a Daniel cómo prepararse para los cambios regulatorios. Adrián Hontoria Sánchez recomendó seguir divulgadores confiables con un enfoque técnico y mencionó recursos como el blog de Blackbox Lab (debboxlab.com) y su web de novelas (maquinasimemorias.com), así como la newsletter “The Deep View”. Daniel Echeverria aconsejó escuchar a expertos como Adrián y usar el sentido común para gestionar los riesgos en un campo en constante evolución.
• Regulación de la IA Daniel Echeverria considera que pretender regular la IA específicamente hoy en día no tiene sentido. Daniel cree que, si bien tener marcos teóricos y regulatorios es deseable, las regulaciones específicas sobre IA probablemente fracasarán debido a su corta fecha de caducidad. Daniel sugiere que el modelo actual del Parlamento Europeo es equivocado y propone esperar a ver el avance de la IA y quién lidera la guerra tecnológica antes de establecer regulaciones específicas.
• Acuerdo sobre la Regulación Prematura Adrián Hontoria Sánchez está totalmente de acuerdo con Daniel Echeverria en que legislar sobre la IA en este momento es prematuro. Adrián, como europeo, apoya lo dicho por Daniel y cree que, aunque la idea de una regulación no es mala, para cuando se apruebe la ley, la tecnología ya habrá avanzado, volviéndola obsoleta.
• Agradecimientos y Recursos El Capitulo Estudiantil del IEEE Computer Society Universidad Nacional de Colombia agradeció a Daniel Echeverria y a Adrián Hontoria Sánchez por compartir sus conocimientos y consejos. También agradecieron al Amsterdam Institute por permitir la participación de Adrián. Adrián mencionó sus libros y recursos en línea, invitando a los interesados a contactarlos a través de maquinasimemorias.com y blackboxlab.com. Tanto Adrián como el Capitulo Estudiantil agradecieron a la audiencia por su participación y preguntas acertadas.