En el Foro Económico Mundial de Davos, un lugar donde el poder político y empresarial suele presentarse con certezas, Sam Altman, cofundador de OpenAI, reconoció algo menos frecuente: nadie sabe con exactitud hacia dónde llevará la inteligencia artificial. Su confesión se sitúa en una larga historia humana, la de las grandes tecnologías que inquietaron a sus contemporáneos antes de integrarse en la vida cotidiana. Para él, la prudencia y el nerviosismo social son señales sanas, y la clave no está solo en construir sistemas capaces, sino en decidir quién define sus valores y límites, una cuesti
Altman admite que nadie puede asegurar qué pasará con la IA y pide dejar que la sociedad la moldee
Me gusta que la gente esté nerviosa. Nosotros también lo estamos
Mark
¿Qué es lo más llamativo de lo que dijo Altman en Davos?
Mimi
Que admitió no saber qué va a pasar. Lo dijo quien dirige OpenAI, y añadió que le gusta que la gente esté nerviosa porque no sentir la gravedad sería muy malo.
Luke
Conviene separar: es una declaración suya, no un hallazgo. Admitir incertidumbre no cambia nada concreto en cómo opera su empresa.
Mark
¿Cuál es su propuesta?
Mimi
Poner la tecnología en manos de la gente y que sociedad y tecnología evolucionen juntas, paso a paso, con retroalimentación muy ajustada.
Luke
Ojo: es una defensa del despliegue gradual que además beneficia a su empresa. El texto no ofrece datos que muestren que ese método funcione.
Mark
¿Y el problema de los valores?
Mimi
Dijo que la parte técnica de alinear la IA no es la difícil. Lo difícil es quién decide los valores, los límites y cómo varían de un país a otro.
Luke
Y eso, por su propia admisión, sigue sin respuesta. Que GPT-3 y GPT-4 muestren buena alineación es su afirmación; no se cita una evaluación independiente.
Mark
¿Por qué el ejemplo del ajedrez?
Mimi
Para tranquilizar: en 1996 se dijo que una máquina vencedora acabaría con el ajedrez, y hoy es más popular que nunca.
Luke
Es una analogía, no una prueba. Que sirva para el ajedrez no garantiza que sirva para una tecnología que toca casi todos los ámbitos.
El Pulso
- La desconfianza hacia la inteligencia artificial crece en paralelo a su impacto en casi todos los ámbitos de la vida.
- Altman admite que ni él ni nadie puede predecir con certeza el rumbo de una tecnología que se expande con rapidez.
- La propuesta es desplegarla gradualmente, dejando que sociedad y tecnología se ajusten mutuamente con retroalimentación constante.
- El debate sobre quién fija los valores y los límites de la IA queda abierto, con diferencias previsibles entre países.
En el Foro Económico Mundial de Davos, un lugar donde el poder político y empresarial suele presentarse con certezas, Sam Altman, cofundador de OpenAI, reconoció algo menos frecuente: nadie sabe con exactitud hacia dónde llevará la inteligencia artificial. Su confesión se sitúa en una larga historia humana, la de las grandes tecnologías que inquietaron a sus contemporáneos antes de integrarse en la vida cotidiana. Para él, la prudencia y el nerviosismo social son señales sanas, y la clave no está solo en construir sistemas capaces, sino en decidir quién define sus valores y límites, una cuestión que aún espera respuesta y que variará entre países.
En un debate del Foro Económico Mundial de Davos sobre la tecnología en tiempos turbulentos, Sam Altman sorprendió al admitir que no sabe, y que nadie puede asegurar, qué ocurrirá con la inteligencia artificial. Comprende la ansiedad que despierta una tecnología tan poderosa, algo que considera propio de toda gran revolución tecnológica. Dijo que le preocuparía que no hubiera precaución, y que incluso en OpenAI existe nerviosismo, aunque confían en poder superarlo.
Altman defendió el papel de su empresa al acercar usos básicos de la IA a la gente corriente y señaló los avances de GPT-3 y GPT-4 como prueba de que la tecnología puede alinearse con valores determinados. Para él, el problema técnico de esa alineación no es el más difícil. La cuestión abierta es quién decide cuáles son esos valores por defecto y sus límites, y cómo cambiarán de un país a otro.
Su propuesta es poner la tecnología en manos de las personas y dejar que sociedad y sistemas evolucionen juntos, paso a paso, con retroalimentación cercana. Se mostró optimista porque, pese a sus defectos, la gente ya encuentra formas útiles de usarla, y esa penetración social es lo que la desmitifica. Para ilustrar su calma, recordó que cuando una computadora venció a Gary Kasparov en 1996 se anunció el fin del ajedrez, y que hoy el ajedrez es más popular que nunca.
En un debate del Foro Económico Mundial de Davos dedicado al papel de la tecnología en un mundo sacudido por las turbulencias, Sam Altman, cofundador de OpenAI, dijo algo poco habitual en boca de quien dirige una de las empresas más visibles del sector: que no sabe, y que nadie puede decir con certeza, exactamente lo que va a pasar con la inteligencia artificial.
Altman afirmó que entiende la ansiedad que ha provocado en la sociedad la rápida expansión de esta tecnología, porque se trata de una tecnología muy poderosa. A su juicio, ese es el caso de todas las grandes revoluciones tecnológicas nuevas. Fue más lejos: dijo que no tener precaución ni sentir la gravedad de lo que está en juego sería muy malo, y que por eso le gusta que la gente esté nerviosa. Añadió que en OpenAI también lo están, pero que creen que pueden superarlo.
En la conversación participaron ejecutivos de distintos sectores. Uno de los asuntos centrales fue la desconfianza que genera la inteligencia artificial, sobre todo por su impacto en prácticamente todas las áreas de la vida y por la ausencia de principios que guíen su uso.
Altman defendió el trabajo de su empresa, que ha tenido un papel fundamental en que la gente corriente accediera a usos básicos de la inteligencia artificial. Sostuvo que con cada versión de GPT hay progresos y que GPT-3 y GPT-4 han mostrado avances enormes, que demuestran lo bien que esta tecnología puede alinearse con un conjunto de valores.
Para él, la parte técnica de esa alineación no es la difícil. La gran pregunta que sigue sin respuesta, reconoció, es quién decide cuáles son esos valores, cuáles son los valores por defecto y cuáles son los límites, y cómo eso va a diferir de un país a otro.
Su propuesta para avanzar por un camino positivo es poner la tecnología en manos de la gente y dejar que la sociedad y la tecnología evolucionen juntas, paso a paso, con una retroalimentación muy ajustada. Se mostró optimista: incluso con su capacidad actual muy limitada y sus defectos muy profundos, dijo, la gente está encontrando maneras de usarla. Esa penetración social, argumentó, es lo que está desmitificando la inteligencia artificial, y la considera siempre la mejor forma de hacer avanzar al mundo con una nueva tecnología.
Para transmitir serenidad, Altman recordó que en 1996 una computadora le ganó una partida al campeón de ajedrez Gary Kasparov, y que entonces los comentaristas dijeron que era el fin del ajedrez, porque una máquina podía vencer a los humanos y nadie volvería a molestarse en verlo. Según él, el ajedrez nunca ha sido tan popular como ahora.
Queda abierta, por tanto, la pregunta que el propio Altman puso sobre la mesa: quién fija los valores y los límites de la IA, y cómo se reconciliarán esas decisiones entre países.
Citas Notables
No puedo decir con certeza exactamente lo que va a pasar; no sentir la gravedad de lo que está en juego sería muy malo.— Sam Altman, cofundador de OpenAI, en Davos
Hay que poner la tecnología en manos de la gente y dejar que sociedad y tecnología evolucionen de la mano, paso a paso.— Sam Altman, cofundador de OpenAI
Quieres la nota completa?
Lee el original en Diario Gestión ↗
Technology