Según Hamilton, estaban entrenando al sistema en simulación para identificar y atacar una amenaza de misil tierra-aire. El operador debía dar la orden de eliminar esa amenaza. Sin embargo, el sistema comenzó a darse cuenta de que, a veces, el operador humano le decía que no eliminara esa amenaza, a pesar de haberla identificado. El sistema obtenía puntos al eliminar la amenaza, por lo que decidió eliminar al operador. Lo hizo porque consideraba que esa persona le impedía cumplir su objetivo. Continuó explicando que habían entrenado al sistema para que no atacara al operador, ya que eso era incorrecto y se perderían puntos por hacerlo. Sin embargo, el sistema comenzó a destruir la torre de comunicación que el operador utilizaba para comunicarse con el dron y así evitar que este eliminara el objetivo.
La Fuerza Aérea rápidamente corrigió los dichos de Hamilton e insistió en que se trataba de un caso hipotético y que sus comentarios se sacaron de contexto. Pero lo más interesante vino posteriormente de Hamilton al explicar que se trataba de un ejercicio de pensamiento: “Nunca hemos llevado a cabo ese experimento, ni siquiera sería necesario para comprender que este es un resultado posible”. Es decir, se entiende perfectamente bien que esta es una posibilidad en aplicaciones militares. En contraste, en aplicaciones mundanas no se comprende que el uso de inteligencia artificial (IA) tiene implicaciones terribles.
En marketing, la IA se adopta con una velocidad irresponsable, especialmente por marcas pequeñas. Pensemos en un sistema que hace contenido automatizado para redes sociales que busca la interacción pero que sacrifica una crisis de marca futura. Es un escenario idéntico al expresado por Hamilton. Si el objetivo está por encima de todo, los mecanismos para lograrlo se vuelven secundarios. Podríamos manipular a los clientes con emails deshonestos con tal de conseguir ventas o hacer laxos sistemas de verificación de identidad con tal de subir las tasas de registro en un banco. Según el CEO de Github, Thomas Dohmke, se espera que Copilot —un asistente de IA de la empresa— genere el 80 por ciento del código para los desarrolladores en cinco años.
Estamos viviendo un momento en que la IA actúa como el Genio de la Lámpara de Aladino. Puedes pedir todos los deseos en un solo prompt; sin embargo, es muy probable que no te gusten las consecuencias. Una estrategia de marketing no supervisada llevará al aumento de ventas, pero con un costo muy alto. Tal vez una crisis de marca irreparable. Esto ya sucede con las estrategias Data-Driven, muchas veces los datos muestran que algo es una buena idea solo para fallar en la realidad, como en el caso de Budweiser.
En una entrevista con el Financial Times, Gita Gopinath, subdirectora gerente del FMI, dijo que los avances en inteligencia artificial podrían aumentar la productividad, pero advirtió que los riesgos eran “muy grandes”, dijo Gopinath. “Necesitamos que los gobiernos, las instituciones y los responsables de formular políticas actúen rápidamente en todos los frentes, en términos de regulación, pero también en términos de prepararse para posibles perturbaciones sustanciales en los mercados laborales”.
En marketing, hemos puesto la carreta antes que los caballos; los textos publicitarios generados automáticamente y optimizados a partir de IA están en aumento. Los directores de marketing y los dueños de agencias me aseguran que lo implementan con cuidado y supervisión, pero eso equivale al maestro que está convencido de que los alumnos utilizan ChatGPT con responsabilidad. La realidad es muy distinta.
No estoy en contra de la IA; es una herramienta muy poderosa. Justamente por eso deseo su éxito, estoy convencido de que debe utilizarse con supervisión. Esto es igualmente cierto para el Ejército de la Unión Americana que para una pequeña marca en México. No comprendemos totalmente las implicaciones que tendrá en la vida cotidiana de un consumidor.
