El reconocido experto en Inteligencia Artificial y fundador del Machine Intelligence Research Institute, Elieze Yudksky, ha pedido a los laboratorios de IA que detengan inmediatamente el entrenamiento de sistemas de IA más potentes que GPT-4 durante al menos seis meses.
En una carta publicada en el Future of Life Institute, Yudkowsky ha mencionado que la falta de planificación y gestión en el desarrollo de sistemas de IA más avanzados es muy preocupante.
Actualmente, los laboratorios de IA están compitiendo por desarrollar e implementar “mentes digitales” cada vez más poderosas, lo cual ha llevado a una falta de comprensión, predicción y controles fiables de estos sistemas.
Yudkowsky ha mencionado que:
La investigación y el desarrollo de IA deben reenfocarse en hacer que los sistemas potentes de hoy en día sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales.
Esta petición emitida por Yudkowsky está respaldada por la sociedad que ha hecho una pausa en otras tecnologías con efectos potencialmente catastróficos.
También ha mencionado que:
La Inteligencia Artificial es una tecnología que tiene el potencial de tener un impacto significativo en la sociedad, por lo que es importante que no nos apresuremos a caer sin estar preparados para una tecnología de este nivel.
Por lo que el llamado de Yudkowsky para que los laboratorios de IA detengan inmediatamente el entrenamiento de los sistemas de IA más potentes que GPT-4 durante unos meses es un recordatorio importante de que IA es una tecnología poderosa y que debe ser manejada con mucho cuidado y planificación.
Por lo que la seguridad, transparencia y alineación son esenciales para garantizar que la IA beneficie a la sociedad de manera responsable y sostenible.