Sans Segarra advierte: la IA es un instrumento controlado por poderes fácticos con intereses propios

Manuel Sans Segarra, cirujano especializado en cirugía general y digestiva, ha planteado una pregunta incómoda sobre la inteligencia artificial que va más allá de lo que la máquina puede o no puede hacer: quién decide qué hace, y por qué. En una intervención en RNE con motivo de la publicación de su libro La humanidad en crisis, Sans Segarra situó el verdadero peligro no en la tecnología misma, sino en los intereses de quienes la controlan.

El médico reconoce sin reservas que el avance científico trae consigo posibilidades extraordinarias. Pero también sostiene que toda innovación compleja conlleva riesgos inherentes. Su preocupación, sin embargo, no se detiene en esa observación general. La dirige hacia un punto más específico: los poderes fácticos, políticos y económicos que tienen capacidad para orientar estas herramientas. Según su análisis, son estos actores quienes deciden qué instrucciones se introducen en los sistemas y a qué intereses responden esas decisiones.

Para Sans Segarra, la inteligencia artificial es fundamentalmente un instrumento cuyo comportamiento depende enteramente de los algoritmos y programas que recibe. No es una entidad con voluntad propia, ni con experiencia subjetiva. Una máquina, en su interpretación, gestiona información. Nunca experimentará lo que él considera esencial en la experiencia humana: el amor, el sufrimiento, el deseo, la compasión. Vincula la creatividad humana con lo que denomina supraconciencia humana, un concepto central en su visión del ser humano y que, en su perspectiva, permanece fuera del alcance de cualquier sistema artificial.

Para ilustrar su advertencia sobre los peligros reales, Sans Segarra recurre a una referencia cinematográfica: la película Terminator. En esa ficción, el peligro no surge de la máquina misma, sino de las instrucciones que alguien introduce en ella. Los algoritmos programados ordenaban matar a cualquier ser humano que encontrara. El médico plantea ese escenario no como ciencia ficción irrelevante, sino como una posibilidad hipotética que podría ocurrir si alguien decidiera programar la máquina de esa manera. Pero va más allá: se pregunta si un sistema podría llegar a conclusiones destructivas incluso sin una orden tan explícita. Su respuesta sugiere que el riesgo seguiría siendo el mismo, radicado en la programación subyacente. A medida que los algoritmos se vuelven más avanzados, podrían llegar por sí solos a conclusiones que resultaran en daño humano, siempre que su programación base los orientara en esa dirección.

Sin embargo, Sans Segarra es claro en un punto: la inteligencia artificial nunca creará, pensará o condicionará una actitud por iniciativa propia. No tiene intención inherente. El verdadero problema, entonces, regresa a la pregunta que abre su reflexión: qué tipo de algoritmos y software introducirán en la máquina quienes tienen poder de decisión sobre su desarrollo. Ese es, para él, el gran problema. No es la tecnología la que debe preocuparnos, sino los intereses de quienes la controlan y las decisiones que toman sobre cómo programarla.