Dupuy, J.-P. (2005). Petite métaphysique des tsunamis. Éditions du Seuil.
Simondon, G. (2009). La individuación a la luz de las nociones de forma y de información (P. Ires, Trad.). Editorial Cactus / La Cebra. (Obra original publicada en 1964).
Sadin, É. (2020). La inteligencia artificial o el desafío del siglo: Anatomía de un antihumanismo radical (M. Martínez, Trad.). Caja Negra.
Tesis central de los autores
Tres pensadores francófonos convergen en una crítica ontológica sobre la relación humano-tecnología:
Dupuy (2005): Advierte sobre el “catastrofismo ilustrado”: la incapacidad humana de actuar preventivamente ante amenazas que aún no se han materializado. En el quirófano, aplica a la negligencia de no entrenar NTS hasta que ocurre el evento adverso fatal.
Simondon (1964/2009): Propone la individuación técnica: el ser humano y la máquina no se oponen sino que se individúan conjuntamente en un proceso de asociación. El objeto técnico tiene su propia lógica interna que debe respetarse; la alienación no viene de la máquina sino de la ignorancia de su funcionamiento. La relación correcta es la asociación sociotécnica, no la servidumbre ni el rechazo.
Sadin (2020): Diagnostica el paso de la IA como herramienta a la IA como agente de gobierno de la conducta humana. El riesgo contemporáneo es la “desposesión de la autonomía”: que los algoritmos administren las decisiones clínicas sin que el profesional comprenda por qué. Propone resistir al “antihumanismo tecnológico” preservando la soberanía del juicio humano.
Ideas clave
- La IA como copiloto, no como piloto: el software de simulación no debe sustituir el juicio clínico del perfusionista ni imponer veredictos dogmáticos sobre su desempeño.
- IA explicable: cada retroalimentación de la IA debe ser transparente, rastreable y cuestionable por el profesional.
- Individuación conjunta (Simondon): el perfusionista y la plataforma de IA se transforman mutuamente; la IA aprende del perfusionista (datos de entrenamiento) y el perfusionista aprende de la IA (retroalimentación adaptativa).
- Catastrofismo ilustrado (Dupuy): la comunidad de perfusión tiende a actuar reactivamente (solo después del evento adverso) en lugar de preventivamente (entrenar NTS antes de que la crisis ocurra).
- Soberanía ética (Sadin): el perfusionista debe poder cuestionar, rechazar o modificar las sugerencias de la IA. La autonomía profesional no es negociable.
Aplicación a la tesis de Sandra
Estos tres autores constituyen la salvaguarda ética de la Dimensión 4. Sin ellos, la tesis podría leerse como un argumento tecno-optimista para sustituir el juicio humano con algoritmos. Con ellos, el argumento se equilibra:
Lo que la IA DEBE hacer:
- Estimular la intuición, la reflexión crítica y la conciencia situacional.
- Hacer explícitos los patrones de error que el perfusionista no detecta solo.
- Adaptarse al nivel del profesional sin infantilizarlo.
Lo que la IA NO DEBE hacer:
- Convertirse en “caja negra” cuyas decisiones son opacas.
- Administrar la conducta del perfusionista con puntuaciones punitivas.
- Sustituir el debriefing reflexivo con evaluaciones automatizadas.
- Generar dependencia: el perfusionista debe poder operar sin la IA.
Conexión con la categoría central: La ontogénesis del ser perfusionista incluye aprender a relacionarse críticamente con la tecnología, no a someterse a ella.
Preguntas orientadoras para reflexión
- ¿Qué harías si la IA te sugiere una acción con la que no estás de acuerdo durante una crisis simulada?
- ¿En qué momento la IA deja de ser una herramienta de aprendizaje y se convierte en un evaluador punitivo?
- ¿Cómo garantizar que los perfusionistas latinoamericanos no se conviertan en usuarios pasivos de una tecnología diseñada en otro contexto cultural?
- ¿Qué significa “soberanía ética” para un perfusionista que opera una máquina corazón-pulmón durante una cirugía?
Conexiones
- Dimensión: Dimensión 4: Interfaz sociotécnica y ética
- Par teórico: n-7-9 (TPACK — la tecnología como medio, no como fin)
- Par fenomenológico: n-7-8 (Varela — la enacción como base de la autonomía corporal frente a la máquina)
- Diálogo con Dimensión 3: n-7-5 (Maturana — la IA como perturbador, no como instructor; la clausura operacional protege la autonomía)
- Antecedentes: subárea filosófica de los antecedentes (Dupuy, Simondon, Sadin, Crawford, Cataldo, Desmurget)
Mi reflexión
Mi reflexión (transcripción)
Transcripción de la grabación de voz
Transcripción automática (Whisper) revisada: se corrigieron nombres propios y términos técnicos;
[?]marca pasajes inciertos.Vamos a contestar las preguntas de los tres actores sobre la parte ética que me parece fundamental en esta tesis para no irnos solamente a la parte tecnológica.
¿Qué haría si la IA te sugiera una opción con la que no estás de acuerdo durante una crisis simulada?
No la hago.
Simplemente, si yo ya estoy segura, no la voy a hacer porque ante todo estoy priorizando mi juicio clínico, mi juicio profesional.
¿En qué momento la IA deja de ser una herramienta de aprendizaje y se convierte en un valor punitivo en el momento que tú dejas que ella tome las decisiones y no, ella no está para tomar decisiones?
¿Cómo garantizar que los perfusionistas latinoamericanos no se conviertan en usuarios pasivos de una tecnología diseñada en otro contexto cultural por el entrenamiento previo?
Básicamente siempre va a haber una parte instruccional para que no sean usuarios pasivos.
Los contextos culturales podrán ser diferentes, pero los escenarios son transversales.
Es un lenguaje común que tenemos.
¿Qué significa soberanía ética para un perfusionista que opera una máquina de corazón o no durante una cirugía?
La soberanía ética es dar su juicio siempre por encima del algoritmo de una IA.