Más de mil expertos en tecnología en todo el mundo, incluyendo a Elon Musk y Steve Wozniak, recientemente han hecho pública una petición para suspender temporalmente el avance de la Inteligencia Artificial debido al riesgo que supone la falta de controles para limitar su uso. Pero, ¿Cuál debería ser el límite de la IA? ¿Cuál debería ser el límite en el uso de la tecnología para construir empresas?
En la Grecia antigua, los rápidos avances en medicina generaron desafíos éticos y por lo tanto la necesidad de establecer normas mínimas para los médicos, lo que llevó a la creación del Juramento Hipocrático que sigue siendo un símbolo del compromiso ético de los médicos de todo el mundo: utilizar la medicina para el bien, tomar decisiones bajo los más altos estándares éticos y actuar bajo principios de dignidad, respeto y honestidad con los pacientes.
Hoy, los rápidos avances tecnológicos impulsados por startups que usan la tecnología para satisfacer necesidades del mercado plantean, como en la Grecia antigua, importantes desafíos éticos. Hay muchos ejemplos: los sesgos y prejuicios de los desarrolladores se reflejan en los códigos y algoritmos con consecuencias injustas y discriminatorias en la sociedad; la recopilación de grandes cantidades de datos personales puede poner en grave riesgo el derecho a la privacidad de clientes y usuarios; la manipulación de la información a través de algoritmos puede afectar la democracia y aumentar la polarización con graves consecuencias sociales; las redes sociales están distorsionando las dinámicas sociales y afectando significativamente la salud mental de la población; la propagación de noticias e imágenes falsas que son difícilmente identificables puede agravar aún más la crisis de confianza social; la precarización de las condiciones laborales y el reemplazo de mano de obra por tecnificación pueden tener graves consecuencias sociales y económicas. Y estos son solo algunos ejemplos.
Muchos claman por regulación: que se regulen las publicaciones que se pueden hacer en redes sociales, que se regulen los modelos laborales de quienes usan las plataformas para trabajar, que se regule el uso del Chat GPT en la academia, que se regule, que se regule y que se regule.
El problema es que cada vez que se crea una startup nueva, no solo se está aportando a solucionar un problema de manera disruptiva, sino que al mismo tiempo esa disrupción podría crear nuevos riesgos potenciales para la humanidad. Por lo tanto la lista de temas que se “deberían regular” crece exponencialmente.
El problema es que incluso si lográramos regular todos los riesgos que existen hoy, la innovación tecnológica avanza tan rápido que la regulación de esos riesgos actuales sería obsoleta mañana, ya que la innovación avanza a pasos agigantados mientras que la agenda regulatoria avanza al ritmo que permiten las burocracias.
El problema es que existen “unknown unknowns“, esas alertas que nos genera la incertidumbre de y que nos tienen hoy preocupados porque el asombroso avance en la tecnología podría generar potenciales riesgos que ni nos alcanzamos a imaginar. Y esos riesgos desconocidos son imposibles de regular.
La regulación tendrá que llegar y los límites de lo que se permite o no se irán demarcando, pero no a la velocidad que se necesita. Así que la regulación no es la salida, pero la autorregulación sí.
El ecosistema tech deberá avanzar rápidamente en establecer sus propios límites y compromisos mínimos de ética, responsabilidad y transparencia. Necesitamos un Juramento Hipocrático para Founders, un compromiso impulsado por los mismo líderes del ecosistema para construir y de financiar empresas éticas, que sean conscientes de los impactos y riesgos de su negocio y se hagan responsables de ellos, que usen la tecnología para el bien.
No se trata de desarrollar startups de impacto, sino de que todas las startups definan una base ética, de sostenibilidad y responsabilidad para operar, escalar, desarrollar nuevos productos y servicios, y atraer nuevos clientes y usuarios. Los founders, desarrolladores, inversionistas y otros actores del ecosistema deben ser conscientes de los riesgos e impactos negativos que generan y trabajar juntos para abordarlos de manera responsable y ética cuanto antes.