DE LA ACADEMIA
Relator: David Vásquez Awad
15 de Septiembre 2023
La Academia Nacional de Medicina (ANM) realizó el foro sobre inteligencia artificial con participación de expertos y profesores en la Inteligencia Artificial (IA), la educación escolar, la educación universitaria, la investigación y la ética en la práctica médica. El propósito de la Academia era hacer una consideración de como la IA está afectando a la medicina desde diferentes perspectivas y presentar a consideración de médicos y de organizaciones médicas una reflexión sobre el uso actual y el previsible uso que se pueda hacer de esta herramienta en un plazo relativamente corto pero que se extiende en el tiempo hasta posibilidades de gran impacto para la medicina, la salud pública, la educación médica y, por supuesto, en las demás áreas del conocimiento.
Ingeniero Gabriel Suárez Manotas
Entendiendo
que el concepto de “Inteligencia” ha sido sujeto de estudio y debate
durante mucho tiempo, podemos definirla de manera muy general como la
capacidad de adquirir y comprender información, usando esta nueva
información para resolver problemas de manera lógica y adaptándonos
eficientemente a nuevas circunstancias. Bajo esta definición, resulta
evidente que diversas criaturas en nuestro planeta demuestran
inteligencia orgánica de maneras distintas. Un perro, por ejemplo,
demuestra su capacidad para aprender y adaptarse cuando descubre la
alegría de revolcarse en el barro y repite este comportamiento después
de la primera vez o nosotros, como seres humanos, mostramos
inteligencia al comprender y adaptarnos a las normas sociales que rigen
nuestra convivencia.
En contraposición con esta “inteligencia natural”, por mucho tiempo las
máquinas han sido herramientas pasivas. Han podido almacenar,
transmitir y transmitir información de manera automática, pero carecían
de la capacidad para “entenderla” o tomar decisiones autónomas a partir
de esta. La “Inteligencia Artificial” (IA) es, entonces, la capacidad
que le hemos dado a la tecnología de, a partir de cierta historia de
datos, interpretar nuevas entradas y ser capaz de generar predicciones
sobre estas.
Mientras que nosotros, seres dotados de inteligencia orgánica,
interpretamos información y tomamos decisiones para adaptarnos
eficazmente a circunstancias cambiantes, la inteligencia artificial es,
esencialmente, una habilidad concedida por nosotros a las máquinas para
generar predicciones basadas en datos históricos. Sin embargo, esas
predicciones, desprovistas de contexto y sin la interpretación
adecuada, no equivalen a verdadera “inteligencia”. Necesitamos de esa
inteligencia intrínseca, humana, para discernir si los resultados
proporcionados por la IA son relevantes en un contexto dado. En esta
interacción, la IA se transforma en una herramienta, ampliando y
enriqueciendo nuestra capacidad para afrontar nuevos desafíos y
adaptarnos a ellos.
La IA, a mayor escala, es la rama de la informática que aspira a que
las computadoras puedan generar predicciones más precisas. Para que la
máquina pueda “aprender” debe ser provista con un conjunto de datos
históricos, denominado “set de entrenamiento”. Posteriormente, a través
de algoritmos o modelos matemáticos, se busca identificar patrones o
relaciones en esos datos y determinar en qué medida cada uno de ellos
contribuye en el resultado de la predicción. En función de la
complejidad del problema, se elige un algoritmo adecuado, que puede
variar desde una simple regresión lineal hasta estructuras más
elaboradas como árboles de decisión o redes neuronales. Una vez
formulado el modelo, es crucial evaluar. Para ello, se oculta una parte
del set de datos no utilizada durante el entrenamiento, con el
propósito de contrastar las predicciones del modelo con observaciones
reales. La eficacia en el mundo real del resultado de un modelo no es
estática; no se adapta automáticamente a nuevos desafíos. Si las
predicciones resultan desacertadas para el contexto, es responsabilidad
del modelador reconsiderar su enfoque y optimizar el modelo, en un
proceso continuo de iteración y mejora.
Mirando hacia el futuro, se resaltan modelos ya disponibles para todo
público, como ChatGPT, entrenado para predecir respuestas en lenguaje
natural y fluido a partir de cualquier pregunta. Se resaltan también
las herramientas que logran predecir imágenes (como los de una
presentación a partir de un texto).
Como consideraciones adicionales, la IA es poderosa, pero su uso exige
claridad y responsabilidad. Es esencial que los resultados sean
interpretables, evitando modelos que actúen como cajas negras. Se
necesita regulación para proteger la privacidad y evitar sesgos, y la
documentación transparente fortalece la confianza en estos modelos.
Estar al tanto de los sesgos y priorizar la ética previene decisiones
injustas, mientras que la formación continua asegura una implementación
actualizada y ética de la IA.
Filósofo economista Francisco Cajiao
América Latina, una región rica en diversidad cultural y geográfica, se encuentra en un momento crucial de transformación en su sistema educativo. La integración de la inteligencia artificial (IA) en la educación ha surgido como una poderosa herramienta que podría mejorar significativamente la calidad y accesibilidad de la enseñanza en la región. Sin embargo, al mismo tiempo, plantea desafíos y riesgos que deben ser cuidadosamente considerados.
Acceso a la educación de calidad: Uno de los principales beneficios de la IA en la educación es su capacidad para democratizar el acceso a la enseñanza de alta calidad. En una región donde la brecha educativa es un problema crítico, la IA puede ofrecer soluciones escalables y personalizadas, permitiendo a estudiantes de diversos niveles socio económicos y ubicaciones geográficas acceder a recursos educativos de primer nivel.
Aprendizaje personalizado: La IA tiene la capacidad de adaptar los contenidos y las metodologías de enseñanza de acuerdo con las necesidades individuales de cada estudiante. Esto significa que se pueden crear experiencias de aprendizaje más efectivas y atractivas, maximizando el potencial de cada alumno y fomentando un aprendizaje más profundo y significativo.
Automatización de tareas administrativas: La IA también puede aliviar la carga de trabajo de los educadores al automatizar tareas administrativas, como el seguimiento del progreso de los estudiantes o la gestión de materiales educativos. Esto les permite centrarse más en la interacción con los estudiantes y en la mejora de sus habilidades pedagógicas.
Investigación y desarrollo educativo: La IA puede impulsar la investigación en pedagogía y psicología educativa al proporcionar datos detallados sobre cómo los estudiantes interactúan con el contenido y responden a diferentes estrategias de enseñanza. Esto puede llevar a un diseño de currículo más efectivo y a la identificación temprana de problemas de aprendizaje.
Desigualdad digital: Si no se abordan adecuadamente las barreras de acceso a la tecnología, la IA podría agravar la desigualdad educativa. Los estudiantes sin acceso a dispositivos y conectividad adecuados quedarían rezagados, profundizando aún más la brecha educativa.
Pérdida de la interacción humana: A medida que la IA se integra más en la educación, existe el riesgo de que se reduzca la interacción personal entre estudiantes y educadores. La relación maestro-alumno desempeña un papel crucial en el desarrollo integral de los estudiantes, y la IA no debe reemplazar por completo esta conexión humana.
Privacidad y seguridad de datos: La recopilación masiva de datos en el ámbito educativo plantea preocupaciones de privacidad. Es esencial garantizar la protección de los datos de los estudiantes y establecer protocolos sólidos de seguridad cibernética para evitar la exposición de información confidencial.
Sesgo algorítmico: Los algoritmos de IA pueden perpetuar sesgos existentes en la sociedad, lo que podría llevar a discriminación en la evaluación de estudiantes o en la selección de contenido. Es fundamental supervisar y ajustar estos algoritmos para garantizar la equidad en la educación.
En conclusión, la inteligencia artificial ofrece un gran potencial para transformar la educación en América Latina, mejorando el acceso y la calidad de la enseñanza. Sin embargo, se deben abordar cuidadosamente los riesgos asociados, como la desigualdad digital y la pérdida de interacción humana, para garantizar que la integración de la IA beneficie a todos los estudiantes de la región y no deje a nadie atrás. La adopción de políticas adecuadas y la supervisión constante son esenciales para aprovechar al máximo esta revolución educativa en América Latina.
Académica Helena Groot
La Inteligencia artificial puede definirse como una rama de las ciencias de la computación que trabaja con modelos informáticos capaces de realizar actividades humanas basadas en el razonamiento y el comportamiento.
Se dice que una máquina es inteligente si imita las funciones cognitivas que los seres humanos asocian con otros seres humanos, como aprendizaje y la resolución de problemas.
Importancia de la IA en diferentes procesos de la investigación(Puntaje en +++ según el peso de la IA en el proceso)
Académico Gustavo Quintero Hernández
Existen conceptualizaciones encontradas sobre el advenimiento de la Inteligencia Artificial (IA). Algunos lo consideran como apocalíptico, y en consecuencia, destructor de la civilización. Todas las cosas grandes de la vida empiezan siempre con un poco de miedo.
Turing, en 1950, consideró que una máquina capaz de engañar a un humano tenía una inteligencia artificial. Han pasado 73 años desde entonces, y hemos venido, a lo largo de este tiempo, encontrándonos con diferentes desarrollos en esa línea, como el del ChatGPT, que ahora nos inunda. Para Baby Boomers, como yo, ya nada nos sorprende.
Las aplicaciones de la IA en educación médica son inmensas y van a transformar la enseñanza y el aprendizaje de la medicina y la práctica médica en sí.
De la «inteligencia artificial» de las décadas de los cincuenta y posteriores, hemos pasado al «machine learning» de las últimas tres, en las cuales se han creado algoritmos que aprenden sin haber sido explícitamente concebidos para tal fin. Ahora estamos en lo que se conoce como «deep learning»: modelos de IA de alto nivel de abstracción de datos que utilizan gráficos por capas. Lo que viene en adelante será asombroso.
El ChatGPT que estamos viviendo es una herramienta de IA que emplea un lenguaje de comunicación natural, no exento de preocupaciones tales como la veracidad de los diálogos, que, desde lo ético, plantea un desafío y una preocupación justificada que incide, sin lugar a duda, con la responsabilidad profesional.
La IA no tiene emociones ni sentimientos, y es completamente impasible. No puede experimentar ni alegría, ni tristeza, ni enojo o cualquier otra emoción humana, pues su función es proporcionar información y responder preguntas de manera objetiva y basada en datos. Está diseñada para ser neutral y no tener ninguna preferencia o sesgo. Su objetivo es ser útil y asistir en la mejor medida posible, sin involucrar emociones personales. Es decir, no tiene ni consciencia, entendida esta como la percepción de la realidad, ni tampoco conciencia, entendida como la condición moral para diferenciar entre lo bueno y lo malo. He ahí el detalle en el cual, la IA, nunca superará al hombre.
Nuestro objetivo como sociedad no debería ser crear tecnología que nos reemplace, ni que sienta o tenga consciencia o conciencia como nosotros. El objetivo debe estar en analizar el uso que podemos darle, ver qué nos aporta y cómo puede acompañarnos en nuestro día a día para potenciar lo que nos hace humanos. Por eso para mí, como para tantos otros, la IA traerá el renacer del humanismo en la atención en salud, enhorabuena. Un humanismo de tercera generación, capaz de incorporar los valores humanos a la IA, en el cual el pensamiento crítico sea nuestra defensa contra la manipulación y el fanatismo.
Esto requiere un cambio en la razón de ser de la universidad, que dejó de lado su vocación humanista por una puramente instruccional. Y en la educación médica que también instrumentalizó la formación y debe volver al dictum esencial de acompañar siempre, para devolverle el humanismo a la medicina. Para ello se requieren unas transformaciones educacionales profundas en el proceso de admisión, curriculares, en competencias en salud digital, y socio-humanísticas, inaplazables para implementar lo que Topol ha denominado «la medicina profunda», en la cual los doctores adoptarán la inteligencia artificial como su socio ineludible, pero usando la inteligencia emocional propia del ser humano.
No se nos olvide que, como educadores médicos, somos los responsables de la formación de aquellos que controlan el robot. De manera que la solución está en nuestras manos.
Esta conferencia ha sido realizada utilizando inteligencia artificial, por lo cual le expreso mis agradecimientos a ChatGPT 4.0, pero la presentación y la escritura de este texto han sido producidos por una mente sintiente —capaz de percibir emociones y sentimientos— que contempla lo sintáctico y lo semántico e interactúa en un contexto cultural, y por consiguiente, conlleva la posibilidad de una discusión argumentada.
Académico Herman Redondo Gómez
Los avances de la IA han llegado al ámbito sanitario, y han llegado para quedarse. La utilización técnica y tecnológica de la aparatología y las TIC dotadas de inteligencia artificial que aprende a velocidad de vértigo y analiza millones y millones de datos plantea conflictos que afectan a las actuales normas legales, políticas públicas en materia salud y plantea nuevos desafíos éticos en la práctica de la medicina.
Son múltiples, a riesgo de ser omisivo, señalaré algunas muy importantes:
Diagnóstico precoz. La incorporación de la IA a la medicina es una excelente ayuda en el diagnóstico temprano de muchas patologías.
Precisión en el DX con la disponibilidad inmediata de datos, principalmente en especialidades en las que se requiere el escrutinio de muchas imágenes, como la radiología o la anatomía patológica.
El algoritmo no solo realiza el diagnóstico, sino que valora la gravedad de cada caso y recomienda el tratamiento más adecuado.
Agiliza los tiempos de investigación para el desarrollo de nuevos fármacos.
Mejora el control y el seguimiento de pacientes crónicos mediante dispositivos electrónicos.
Desarrolla la medicina a distancia, incluida la cirugía robótica.
Facilita una historia clínica sistematizada e interoperable.
Alivia la carga de trabajo a los médicos.
Un nuevo modelo para el ejercicio la Medicina que se proyecta debido al creciente protagonismo de la IA que, junto a las innegables ventajas que ofrece su aplicación para el diagnóstico y tratamiento de muchos problemas clínicos, despierta interrogantes éticos que reclaman una ponderada reflexión.
Error en la interpretación de los datos, posibilidad que siempre estará presenta en la medida en que los datos pudieran o no ser los correctos.
Riesgo de pérdida de la autonomía del profesional de la salud.
Riesgo de afectación de la relación médico - paciente. La Ley 23/1981 en su artículo primero que establece los principios que rigen el ejercicio de la profesión médica en Colombia:
“… El ejercicio de la medicina tiene implicaciones humanísticas que le son inherentes”. “…La relación médico-paciente es elemento primordial en la práctica médica. Para que dicha relación tenga pleno éxito debe fundarse en un compromiso responsable, leal y auténtico, el cual impone la más estricta reserva profesional”. La IA debe aplicarse con apego a estos principios,
Reúne las experiencias científicas decantadas que han dejado diverso número de procedimientos similares.
Implica el deber legal y ético que le asiste al profesional para ceñirse, en lo posible, a las guías y los protocolos de atención y a la evidencia científica. Siempre deben tenerse en cuenta las condiciones de modo, tiempo y lugar.
Conlleva el riesgo de pérdida de la autonomía del profesional de la salud. El artículo 17 de la Ley estatutaria de salud de 2015 lo enuncia: “Se garantiza la autonomía de los profesionales de la salud para adoptar decisiones sobre el diagnóstico y tratamiento de los pacientes que tienen a su cargo. Esta autonomía será ejercida en el marco de esquemas de autorregulación, la ética, la racionalidad y la evidencia científica…”
La valoración ética del uso de la IA en la toma de decisiones terapéuticas comprende tres interrogantes:
¿Se trata de una herramienta o de una sustitución del juicio clínico?
¿Tiene carácter orientativo o normativo?
¿Qué tipo de decisiones se dejan en manos de la IA?
La Organización Mundial de la Salud (OMS) pide precaución en el uso de herramientas que se sirven de grandes modelos lingüísticos generados por la IA con el fin de proteger y promover la seguridad, autonomía y bienestar de las personas, y preservar la salud pública.
La OMS reitera la importancia de aplicar los principios éticos y la gobernanza adecuada, enumerados en sus orientaciones que son fundamentales en la formulación, desarrollo y despliegue de la IA en el ámbito de la salud. https://www.who.int/es/ publications/i/item/9789240037403].
Proteger la autonomía humana.
Promover el bienestar y la seguridad de las personas y el interés público.
Garantizar la transparencia, la claridad y la inteligibilidad.
Promover la responsabilidad y la rendición de cuentas.
Garantizar la inclusión y la equidad.
Promover una IA con capacidad de respuesta y sostenible.
La ANM comprende que la IA es una herramienta de la tecnología que apoya el diagnóstico y tratamiento, la predicción a través de modelos y genera, de acuerdo con los expertos, una mayor precisión porque utiliza como referencia grandes bases de datos que que las instituciones de salud y los profesionales ofrecen como disponibilidad para almacenar y transmitir información y, ahora, “entenderla”. No obstante, La Academia Nacional de Medicina de Colombia firmemente considera que el gran desarrollo que ha tenido y que tendrá la IA será solo una herramienta que no reemplaza la relación del médico con el paciente, que si bien es cierto que hoy los pacientes son mejor informados, gracias también a la IA, que con autonomía toman sus decisiones sobre su salud, sus tratamientos prescritos llevando, incluso, a decisiones definitivas, el médico en su práctica no puede dejar de “consolar siempre, aliviar a menudo y curar cuando sea posible,” que solo se logra con la entrevista, el examen físico, el contacto con el paciente o la población, porque este principio se aplica también a las intervenciones en salud pública.
La Academia de Medicina invita a las universidades y facultades de las profesiones de la salud, iniciando por la medicina, a que el humanismo, la formación integral de la persona con consideración, ética, profesionalismo, solvencia técnica y capacidad tecnológica para tener profesionales de la salud con las más altas calidades humanas para la práctica, la investigación y la formación.
Mientras que algunos teorizan que los médicos y los profesionales de la salud quedarán obsoletos por la performance de la IA, otros pensamos diferente tomado en cuenta que la IA carece de la confianza y la empatía que genera el contacto directo, de la inteligencia emocional que da el encuentro clínico que es irreemplazable, cualidades todas esenciales que facilita la relación médica con el paciente.
La IA es una herramienta que ayudará a extender y mejorar las capacidades y competencias de los profesionales de la salud, sin reemplazarlos.
La IA potencia la inteligencia humana en lugar de reemplazarla.
Invitamos a recordar la visión de la medicina del bioeticista Edmund Pellegrini: “La Medicina es la más humana de las ciencias y la más científica de las humanidades”.