La humanidad está perdida si la inteligencia artificial se basa en criterios comerciales

Son las grandes empresas las que están desarrollando estos sistemas y lo hacen de acuerdo a sus propios objetivos: vender y generar beneficios a través de manipular a las personas. Debemos crear una IA que mejore la naturaleza humana y no al revés 

Todos hemos leído sobre una inteligencia artificial (IA) que acaba siendo más lista que nosotros, un futuro en el que nos convertiremos en una especie de mascotas de las máquinas y sólo podremos rezar por que nos traten bien. Tras años de observar decenas de millones de interacciones entre humanos y softwares de conversación artificial, o bots parlantes, mi experiencia me ha convencido de que hay otros riesgos más inminentes, aunque también unas oportunidades tremendas. 

Entre 2007 y 2014, fui la CEO de Cognea, una empresa que ofrecía una plataforma para desarrollar complejos agentes virtuales de forma rápida mediante una combinación de aprendizaje estructurado y profundo. El sistema ha sido empleado por decenas de miles de desarrolladores, y también media docena de empresas de la lista Fortune 100. Finalmente fue adquirido por IBM Watson en 2014. Cuando analicé las interacciones que la gente mantiene con las decenas de miles de agentes desarrollados en nuestra plataforma, me quedó claro que los humanos están muy dispuestos a entablar una relación con software de inteligencia artificial, mucho más de lo que cree la gente. 

Yo siempre había pensado que la gente querría mantener algo de distancia con la inteligencia artificial, pero lo que me encontré fue justo lo contrario. Las personas están dispuestas a formar relaciones con inteligencias artificiales, siempre que tengan un diseño sofisticado y estén muy personalizadas. Parece que los humanos queremos convencernos de que la IA realmente se preocupa por nosotros. 

Quien consigue que un usuario pida un a pizza a domicilio en lugar de dar una orden a su mayordomo virtual para que compre verduras para hacer un plato más barato y sano, gana. Y quien consiga que los usuarios se acostumbren y dependan de pasar 30 horas a la semana con su amigo virtual "perfecto" que tolera cualquier abuso, también ganará. 

Esto me resultó desconcertante hasta que me di cuenta de que conectamos con muchas personas de una manera superficial en nuestro día a día mientras atravesamos una especie de fango emocional. ¿Acaso los amigos devuelven las llamadas cuando se les ignora durante un tiempo? ¿Las personas a las que contratamos aparecen en nuestra puerta si no les pagamos? No, pero una personalidad artificial siempre está a nuestra disposición. En algunos sentidos, es una relación más auténtica. Y observé que el fenómeno se repetía independientemente de si el programa estaba diseñado para actuar como un banquero, compañero o un entrenador personal. Los usuarios hablaban con los asistentes automatizados durante más tiempo del que dedicaban a sus homólogos humanos. La gente compartía voluntariamente secretos muy personales con las personalidades artificiales, como sus sueños de futuro, detalles sobre sus vidas amorosas o incluso contraseñas. 

Estas conexiones profundas tan sorprendentes implican que incluso los programas actuales, relativamente sencillos, pueden ejercer una importante influencia sobre la gente, para bien o para mal. Logramos cada cambio de conducta que nos propusimos desde Cognea. Si queríamos que un usuario comprara más productos, conseguimos doblar las ventas. Si queríamos una mayor participación, logramos que la gente pasara de unos pocos segundos de interacción al día a una hora o más. Esto me inquietaba mucho, así que empezamos a incorporar reglas en nuestros sistemas para garantizar que la manipulación del usuario se ejerciera en una dirección positiva. También lanzamos algunos proyectos de "contrapeso kármico" pro bonos; por ejemplo, desarrollamos sistemas artificiales de entrenamiento personal y de consejero sentimental. 

Desafortunadamente, las fuerzas comerciales que impulsan el desarrollo tecnológico no siempre son tan benévolas. Las gigantes empresas de la vanguardia de la IA (redes sociales, buscadores y comercios electrónicos) impulsan el valor de sus acciones al aumentar el tráfico, el consumo y la adicción a sus tecnologías. No es que su intención sea mala, es que la naturaleza de los mercados capitalistas puede empujarnos hacia una inteligencia artificial empeñada en manipular nuestro comportamiento para conseguir esos objetivos.  

Comprobé una y otra vez que un agente programado para ser neutral o servicial hace que la gente aumente sus comportamientos negativos y acabe trasladando esa actitud a los humanos. Hemos observado que algunas tecnologías como las redes sociales tienen mucho poder para modular las creencias y el comportamiento humanos. Centradas en aumentar su negocio de publicidad, entremezclando política, trivialidades y medias verdades, pueden generar cambios sociales masivos. 

Los sistemas específicamente diseñados para mantener relaciones con humanos se irán volviendo cada vez más poderosos. La inteligencia artificial influirá en nuestra forma de pensar y de tratar a los demás. Esto requiere un nuevo nivel de responsabilidad corporativa. Debemos centrarnos en desarrollar una inteligencia artificial que mejore la condición humana en lugar de limitarla a generar beneficios financieros inmediatos de un nivel masivo de usuarios adictos. Trabajar en tecnologías de inteligencia artificial e interfaces cerebro-máquina o formar comités de ética solo es una parte de la solución. Hemos de desarrollar sistemas que trabajen en beneficio de los humanos y la sociedad. La adicción, los clics y el consumo no pueden ser los objetivos principales de la inteligencia artificial. Se está haciendo mayor y más potente y acabará dando forma a la naturaleza humana. La inteligencia artificial necesita una madre.

Fuente: MIT Technology Review