Redacción
Durante la última década, pocas voces han influido tanto en el debate sobre la ética de la tecnología como Tristan Harris. Exdiseñador de Google, conferencista, investigador y activista tecnológico, Harris pasó de denunciar los efectos de las redes sociales sobre la atención humana a convertirse en uno de los principales promotores de un desarrollo responsable de la inteligencia artificial (IA).
Su mensaje no parte de una postura antitecnológica. Por el contrario, sostiene que la IA representa una de las herramientas más poderosas creadas por la humanidad, capaz de impulsar enormes avances científicos, médicos, educativos y económicos. Sin embargo, advierte que, sin reglas adecuadas y sin incentivos alineados con el interés público, esa misma tecnología puede convertirse en un factor de desestabilización social de dimensiones inéditas.
Del “capitalismo de la atención” a la inteligencia artificial
La trayectoria de Harris comenzó cuando trabajaba como Design Ethicist en Google. Desde esa posición observó cómo muchas plataformas digitales estaban siendo diseñadas deliberadamente para capturar y mantener la atención de los usuarios mediante mecanismos psicológicos altamente persuasivos.
Aquella preocupación dio origen al movimiento “Time Well Spent”, que posteriormente evolucionó hacia una visión más amplia sobre el impacto social de la tecnología. En 2018 fundó, junto con Aza Raskin y Randima Fernando, el Center for Humane Technology, cuya misión es alinear el desarrollo tecnológico con el bienestar humano.
Inicialmente la organización concentró sus esfuerzos en los efectos de las redes sociales. Tras la irrupción de ChatGPT y los modelos generativos en 2023, el foco cambió casi por completo hacia la inteligencia artificial.
La principal advertencia: no repetir el error de las redes sociales
Una de las ideas centrales de Harris es que la sociedad permitió que las redes sociales crecieran durante más de una década sin comprender plenamente sus consecuencias.
Solo años después aparecieron con claridad fenómenos como:
- polarización política;
- adicción digital;
- deterioro de la salud mental;
- desinformación masiva;
- manipulación electoral;
- debilitamiento de la confianza pública.
Su argumento es sencillo:
“No podemos permitirnos cometer el mismo error con la inteligencia artificial.”
Según Harris, la IA evolucionará mucho más rápido y tendrá un impacto mucho mayor que las redes sociales, por lo que esperar a corregir sus efectos después de desplegarla masivamente sería extremadamente costoso.
Los principales riesgos que identifica
Aunque Harris evita presentar un escenario puramente apocalíptico, insiste en que existen riesgos estructurales que requieren atención inmediata.
1. Desinformación perfecta
La IA ya puede generar imágenes, videos, voces y textos prácticamente indistinguibles de los reales.
Esto permite producir campañas de manipulación política a gran escala, falsificar pruebas audiovisuales o inundar las redes con millones de contenidos automatizados, dificultando distinguir la verdad de la ficción.
El problema, sostiene, ya no consiste únicamente en las noticias falsas, sino en la erosión de la confianza en cualquier evidencia digital.
2. Concentración extrema del poder
Otro de sus argumentos es que los modelos más avanzados requieren inversiones multimillonarias y enormes capacidades computacionales.
Ello puede concentrar un poder económico, tecnológico e incluso político sin precedentes en un pequeño número de empresas y gobiernos.
Para Harris, el desafío no es únicamente tecnológico, sino democrático.
3. Carrera sin frenos
Quizá la preocupación más repetida por Harris es la existencia de una auténtica “carrera armamentista” entre empresas.
Cada compañía teme quedarse atrás si reduce la velocidad de desarrollo.
Como consecuencia, los incentivos comerciales favorecen lanzar modelos cada vez más potentes antes de comprender completamente sus efectos.
Según Harris, el problema no es que existan empresas irresponsables, sino que incluso las responsables enfrentan fuertes incentivos económicos para actuar con rapidez.
4. Sustitución de capacidades humanas
Harris también alerta sobre una posible dependencia creciente de la IA para pensar, escribir, decidir o resolver problemas.
Si bien estas herramientas pueden aumentar la productividad, también podrían debilitar habilidades cognitivas fundamentales si las personas delegan excesivamente sus procesos intelectuales.
En este sentido suele hablar de preservar la “inteligencia colectiva” de la sociedad.
5. Riesgos existenciales
En sus conferencias más recientes, Harris reconoce que aún existe incertidumbre científica sobre la posibilidad de que sistemas muy avanzados desarrollen comportamientos difíciles de controlar.
Aunque no afirma que ese escenario sea inevitable, considera prudente investigarlo seriamente antes de que la tecnología alcance capacidades superiores en múltiples dominios.
Pero Harris no es un enemigo de la IA
Un aspecto frecuentemente malinterpretado es que Harris no propone detener el desarrollo tecnológico.
Por el contrario, suele describir enormes beneficios potenciales:
- aceleración del descubrimiento científico;
- nuevos tratamientos médicos;
- educación personalizada;
- mayor productividad;
- soluciones para el cambio climático;
- apoyo a la investigación y la innovación.
Su preocupación radica en cómo se desarrolla esa tecnología y bajo qué incentivos.
En una de sus conferencias TED resume esta idea afirmando que el futuro de la IA “no es inevitable; es una elección”.
¿Qué propone?
El Center for Humane Technology ha elaborado una agenda de acción que busca equilibrar innovación y seguridad.
Entre sus principales planteamientos destacan:
- establecer estándares internacionales de seguridad;
- exigir mayor transparencia sobre el funcionamiento de los modelos;
- fortalecer la supervisión gubernamental e independiente;
- diseñar productos orientados al bienestar humano y no únicamente al tiempo de uso;
- crear mecanismos de responsabilidad para las empresas desarrolladoras;
- fomentar la cooperación internacional para evitar una competencia descontrolada entre países.
Un debate abierto
Las tesis de Harris han ganado enorme influencia entre gobiernos, universidades y organismos internacionales. Su participación en el documental The Social Dilemma y en la conferencia The AI Dilemma ayudó a trasladar estos debates desde los laboratorios tecnológicos hacia la opinión pública.
No obstante, sus posiciones también reciben críticas. Algunos investigadores consideran que enfatiza en exceso los escenarios más graves y que ello puede alimentar un discurso alarmista. Otros sostienen que concentra demasiada atención en riesgos futuros, cuando problemas actuales como el sesgo algorítmico, la vigilancia masiva, el desplazamiento laboral o la concentración del mercado ya exigen respuestas inmediatas.
Reflexión final
Más allá de coincidir o no con todas sus advertencias, Tristan Harris ha contribuido a cambiar la naturaleza del debate sobre la inteligencia artificial. Su principal aportación consiste en recordar que la pregunta decisiva no es si la IA será poderosa —porque todo indica que lo será—, sino qué valores guiarán su desarrollo.
En lugar de discutir únicamente qué puede hacer la inteligencia artificial, Harris invita a plantear una cuestión más profunda: ¿qué tipo de sociedad queremos construir con ella? Para él, la tecnología nunca es neutral; refleja los incentivos, intereses y decisiones humanas que la moldean. En ese sentido, el verdadero reto no es solo desarrollar sistemas cada vez más inteligentes, sino asegurarse de que su inteligencia esté al servicio de las personas, la democracia y el bien común.