En una nueva revisión de sus normas éticas, una importante compañía del sector tecnológico ha suprimido su promesa anterior de no emplear la inteligencia artificial (IA) en usos ligados a armamento o vigilancia que puedan violar leyes internacionales o derechos humanos. Anteriormente, la política de la empresa prohibía la creación de tecnologías capaces de causar daño general, incluidas armas, estando en consonancia con los principios de derechos humanos a nivel internacional.
Este cambio ha suscitado diferentes reacciones, tanto en el interior como en el exterior de la empresa. Algunos trabajadores han manifestado su inquietud en foros internos, poniendo en duda la orientación que está adoptando la compañía. Por ejemplo, en la plataforma interna Memegen, se publicaron memes y comentarios críticos acerca de la decisión, demostrando preocupaciones sobre el empleo de la IA en ámbitos militares y de vigilancia.
La revisión de las normas ocurre en un marco de intensificada competencia mundial por el dominio en IA. Los directivos de la compañía sostienen que las democracias deben encabezar el desarrollo de la IA, guiándose por principios esenciales como la libertad, la igualdad y el respeto a los derechos humanos. También destacan la relevancia de la cooperación entre empresas, gobiernos y organizaciones afines a estos valores, para desarrollar una IA que salvaguarde a las personas, fomente el crecimiento global y apoye la seguridad nacional.
La actualización de las directrices se produce en un contexto de creciente competencia global por el liderazgo en IA. Los ejecutivos de la empresa argumentan que las democracias deben liderar el desarrollo de la IA, guiadas por valores fundamentales como la libertad, la igualdad y el respeto por los derechos humanos. Además, enfatizan la importancia de la colaboración entre empresas, gobiernos y organizaciones que comparten estos valores para crear una IA que proteja a las personas, promueva el crecimiento global y respalde la seguridad nacional.
Al eliminar la prohibición, la empresa se alinea con otras del sector tecnológico que permiten ciertas aplicaciones militares de sus tecnologías. Por ejemplo, desarrolladores de IA como Meta y OpenAI han permitido que sus tecnologías se utilicen en contextos militares. Esta tendencia refleja un replanteamiento de las políticas corporativas en respuesta a las dinámicas geopolíticas y los avances tecnológicos actuales.
La eliminación de la prohibición alinea a la empresa con otras en el sector tecnológico que permiten ciertas aplicaciones militares de sus tecnologías. Por ejemplo, desarrolladores de IA como Meta y OpenAI han permitido el uso de sus tecnologías en contextos militares. Esta tendencia refleja una reevaluación de las políticas corporativas en respuesta a las dinámicas geopolíticas y los avances tecnológicos actuales.
Sin embargo, esta decisión también ha suscitado preocupaciones entre expertos y defensores de la ética en la IA. Algunos argumentan que el desarrollo de sistemas de armas autónomas y herramientas de vigilancia impulsadas por IA podría tener implicaciones éticas y de derechos humanos significativas. La comunidad científica ha advertido sobre los riesgos asociados con el desarrollo de armas autónomas y ha abogado por un sistema de control global para mitigar posibles amenazas.
La entrada Cambios en políticas de IA despiertan inquietudes globales se publicó primero en PERIÓDICO DE COLOMBIA.