Con la inteligencia artificial “el orden social podría colapsar”. La alarma viene de Japón donde dos de las principales empresas del país, la empresa de telecomunicaciones NTT (Nippon Telegraph and Telephone) y el principal diario, lo Yomiuri Shimbuntener emitió un manifiesto preguntando nuevas leyes para limitar la IA generativa.
“La IA generativa debe controlarse tanto tecnológica como legalmente. Si no se controla la IA generativa, la confianza en la sociedad en su conjunto podría verse dañada a medida que las personas desconfíen unas de otras y se pierdan los incentivos para garantizar la autenticidad y la confianza. Existe el temor de que, en el peor de los casos, la democracia y el orden social puedan colapsar y provocar guerras". leemos en el documento.
El manifiesto, presentado por las dos empresas, subraya la urgencia para Japón tomar medidas contra el abuso de la IA generativa, incluida la implementación de leyes para proteger las elecciones y la seguridad nacional. Las empresas dijeron que la motivación detrás del cartel es la preocupación por el discurso público. Ambas se encuentran entre las empresas más influyentes de Japón, y NTT sigue siendo parcialmente propiedad del gobierno.
Los seres humanos se dejan engañar fácilmente
Las dos empresas afirman que los seres humanos no podemos controlar completamente esta tecnología, como somos los humanos”fácilmente engañado“. El artículo sostiene que el diseño de sistemas de IA que tienen como objetivo captar la atención de los usuarios es perjudicial y daña valores esenciales como la autonomía y la dignidad que permiten a las personas ser libres en la sociedad. Los desafíos incluyen alucinaciones, prejuicios y toxicidad, así como la dificultad de evaluar los productos creados. El periodismo y la investigación académica tradicionalmente han proporcionado información precisa, respaldada por incentivos que garantizan la autenticidad y la confianza, pero esos incentivos pueden estar amenazados.
La propuesta expresa preocupación por el uso de la IA en las escuelas, especialmente para los estudiantes más jóvenes que “quizás aún no hayan desarrollado completamente la capacidad de tomar buenas decisiones”.
La IA ya es indispensable para la sociedad
Aunque el informe mostró cautela respecto de las desventajas de la IA, no fue completamente pesimista sobre la tecnología en su conjunto. Las dos empresas afirmaron queLa IA ya es esencial para la sociedad y que descartar la tecnología debido a problemas generativos de IA podría causar una “disminución de la productividad humana”.
“La tecnología de IA ya es indispensable para la sociedad. Si la tecnología de IA se descarta rotundamente por considerarla poco confiable debido a una IA generativa desbocada, la productividad de la humanidad podría disminuir. Con base en los puntos señalados en las siguientes secciones, es necesario implementar medidas para equilibrar el control y el uso de la IA generativa desde perspectivas tanto tecnológicas como institucionales, y hacer de la tecnología una herramienta adecuada para la sociedad”.
Tres puntos fundamentales
Son tres puntos principales abordado por el manifiesto:
- Abordar la relación fuera de control entre la IA y la economía de la atención: resaltar cómo la excesiva conciencia de las computadoras sobre los individuos conduce a espacios de información débiles y daña la dignidad individual. Existe la preocupación de que la inestabilidad de la IA generativa pueda exacerbar estos problemas, amenazando la autonomía y la dignidad humanas.
- Introducir restricciones legales para proteger la libertad y la dignidad en los debates y abordar cuestiones relacionadas con la IA generativa. Destacamos la importancia de mantener los espacios de discusión libres de influencias nocivas y regular el uso de la IA generativa, especialmente en elecciones y seguridad, para evitar daños irreversibles a la sociedad.
- Establecer una gobernanza eficaz, incluida la legislación, para abordar los desafíos de la era de la IA generativa. Discutimos la necesidad de desarrollar una política de datos estratégica y sistemática a largo plazo, junto con regulaciones flexibles a corto plazo. Se propone un enfoque corregulador para identificar a las partes interesadas y se subraya la importancia de proteger la libertad, la dignidad y los intereses nacionales al implementar dichas regulaciones.
Perspectivas de futuro
Las perspectivas futuras sobre la IA generativa indican que, aunque la tecnología está más allá del control humano total, está destinada a progresar a través de la innovación que acompañará su difusión social. El cartel destaca lanecesidad urgente de tomar medidas garantizar un entorno de debate saludable, que es fundamental para la seguridad humana y social, incluida la democracia. Por lo tanto, necesitamos “leyes estrictas para establecer zonas de uso de la IA generativa, con especial atención a las elecciones y la seguridad”. También es esencial optimizar la legislación sobre derechos de autor mantener el equilibrio entre el uso de la IA generativa y la protección del ecosistema, considerando aspectos tanto institucionales como tecnológicos.
Sin embargo, dado que la revisión de las leyes llevará tiempo, el manifiesto sugiere laintroducción de normas y reglamentos conjuntos por el medios e industrias, junto con la adopción y difusión de tecnologías eficaces. En el proceso de revisión, es una prioridad proteger la dignidad y la libertad individuales para garantizar la autonomía individual, teniendo en cuenta evaluaciones críticas basadas en los valores comunitarios.
El periódico Yomiuri Shimbun y Nippon Telegraph and Telephone Corporation “compartieron ese entendimiento y están comprometidos a continuar estudiando el tema y hacer recomendaciones”.
IA: Microsoft invierte 3 mil millones en Japón
Mientras tanto, Japón también sigue invirtiendo en inteligencia artificial. Microsoft de hecho, ha anunciado una inversión de 2,9 mil millones de dólares en los próximos dos años en el país para potenciar su desarrollo, dado que Tokio está actualmente rezagado en este sector. Una decisión tomada durante la visita de estado del Primer Ministro japonés Fumio Kishida en Washington, durante el cual destacó el objetivo de Japón de convertirse en una potencia de IA.
"Y el Mayor inversión que Microsoft ha hecho en Japón. en sus 46 años de historia”, dijo Brad Smith, presidente de Microsoft. Se espera que el acuerdo proporcione recursos informáticos avanzados, como chips GPU para entrenar modelos de inteligencia artificial, y mejore la infraestructura de nube de la empresa en el país. Además, Microsoft se compromete a invertir en formación en IA para tres millones de trabajadores japoneses durante los próximos tres años y a abrir su primer laboratorio en Tokio, Microsoft Research Asia, centrado en IA y robótica.
