Sep. 11, 2022

Ordenador dice que no

Cómo la inteligencia artificial gobierna el presente

Esta mañana disfruté de mi paseo en bicicleta por un carril bici casi vacío, rayos de sol dignos de una postal iluminaban el rocío sobre los campos a mi alrededor. ¿Dónde estaban los demás ciclistas? Sospecho que tiene algo que ver con las populares aplicaciones meteorológicas. Me sorprende el gran control que las computadoras ya tienen sobre la vida de las personas.

Aparentemente, había probabilidad de lluvia esta mañana, según la aplicación meteorológica del iPhone. Aunque no encontré ni una gota de lluvia, ese pequeño icono de nube de lluvia en el teléfono hizo que menos gente saliera a dar una vuelta.

Claro, lo entiendo: a poca gente le gusta mojarse con sus elegantes bicicletas. ¿Pero qué pasó con mirar por la ventana para comprobar el tiempo real? Un vistazo rápido le habría mostrado a cualquiera las condiciones perfectas para un paseo. ¿Tomas decisiones basándote en la aplicación meteorológica?

¿Qué es la Inteligencia Artificial (IA)?

A pesar de su reciente renacimiento en las filas del "buzzword bingo", los conceptos de inteligencia artificial y aprendizaje automático no son tan novedosos. La idea de usar el aprendizaje como medio para impulsar un sistema más simple a la inteligencia de nivel humano se remonta al menos a la noción de Alan Turing de una "máquina infantil" en 1950. En lugar de intentar producir un programa para simular la mente adulta, ¿por qué no intentar producir uno que simule la del niño? Si luego se sometiera a un curso de educación apropiado, se obtendría el cerebro adulto.

En su libro "Superinteligencia", Nick Bostrom explora a fondo los posibles caminos hacia la creación de una inteligencia artificial. ¿Qué sucede cuando las máquinas superan a los humanos en inteligencia general? ¿Los agentes artificiales nos salvarán o nos destruirán? Incluso Elon Musk está de acuerdo conmigo en que todo el mundo debería leer este libro.

Aunque el consenso general es que todavía no existe una verdadera inteligencia artificial general, yo diría que la sociedad en general se está alineando perfectamente para que una IA tome el control. La metáfora de la rana hirviendo es una forma poderosa de pensar en esto, donde la rana no percibe el peligro del agua que se lleva a ebullición lentamente. ¡No debemos permitir que nadie nos cocine, y mucho menos una IA!

Ejemplos del control informático actual

Mientras disfrutaba del carril bici vacío esta mañana, se me ocurrió que la aplicación meteorológica no es la única que controla el comportamiento de las personas. Considera los siguientes ejemplos:

• dónde vive la gente: es fácil entender por qué las instituciones financieras quieren evaluar el riesgo de prestar dinero a alguien, pero las computadoras de hoy que calculan tu puntaje de crédito controlan indirectamente cosas como qué casa puedes comprar, dónde vivirás, a qué escuela irán tus hijos. El aprendizaje automático es un tema candente en el negocio del dinero, y desconocido para muchas personas, esos algoritmos no solo miran tus datos financieros. Uno de los líderes mundiales en evaluaciones crediticias, GDS Link, es franco al respecto: el historial de pagos de un prestatario es esencial, pero aún así solo compone un poco más de un tercio del puntaje de calificación crediticia.
• alertas meteorológicas: tu aplicación meteorológica está celosa del poder que las alertas meteorológicas tienen en la sociedad: estados nacionales enteros pueden ser cerrados basándose en la computadora meteorológica que indica "código rojo". Todo el mundo entiende las razones obvias de seguridad. Pero, uno podría preguntarse cuánto sufrimiento humano es realmente causado por la cancelación de vacaciones, el cierre de carreteras, la detención de trenes, el cierre de escuelas y la limitación de los servicios hospitalarios.
• lo que la gente ve: la función de reproducción automática en el sitio web de videos favorito de todos utiliza algoritmos para decidir tu próximo video. Incluso si decides deliberadamente ver un video en particular, automáticamente se te presenta algo más después. Lo mismo ocurre con las aplicaciones populares como TikTok e Instagram.
• lo que la gente escucha: no pienses que la función de reproducción aleatoria en tu iPod o la aplicación Spotify es realmente aleatoria. Esta explicación del ex ingeniero de Spotify Mattias Petter Johansson es una lectura interesante.
• lo que la gente lee: Elon Musk entiende por qué es importante hacer públicos los algoritmos de las noticias como el feed de Twitter, ¡porque determina lo que la gente lee! Pero como no todo el mundo entiende el código, creo que solo sería parte de la solución.

Conclusión

Las nuevas tecnologías siempre asustan a la gente. Cuando aparecieron las primeras bicicletas, ¡la gente culpaba de casi todo a ellas! Sin embargo, ahora están integradas en nuestras vidas de una manera razonablemente buena. La gente conoce los riesgos y muchos actúan en consecuencia. Los cascos y las luces de bicicleta son muy comunes. Eventualmente, espero lo mismo para la toma de decisiones computarizada: aprenderemos a lidiar con ella de una buena manera.

Mientras tanto, debemos mantenernos activamente curiosos y disfrutar de las maravillas modernas de la tecnología, como el asombroso sistema DALL-E AI que puede crear imágenes y arte originales y realistas. Trabajé con él para crear las ilustraciones que acompañan a esta entrada del blog. La discusión recientemente iniciada sobre quién es dueño de las obras generadas no me sorprende en absoluto. ¡Los responsables políticos harían bien en no ignorar las cuestiones más importantes que rodean a la inteligencia artificial!