La primera y única plataforma de noticias sobre criptomonedas y blockchain de Colombia.

Col4.0: Jimena Viveros, del órgano asesor de la ONU, aborda la brecha de responsabilidad en la regulación de la IA

Publicado en diciembre 1, 2023
modificado por última vez hace 3 meses

La ponencia de Jimena Viveros destacó los desafíos en la toma de decisiones autónomas y la necesidad de una gobernanza global de la inteligencia artificial en el marco de Col4.0.

Comparte

En el marco de Col4.0, la conferencia de Jimena Viveros, miembro del órgano asesor de Inteligencia Artificial de la ONU, ha arrojado luz sobre los retos asociados con la delegación de decisiones a sistemas autónomos. 

Bajo el título “¿Qué sucede cuando le delegamos la toma de decisiones a los sistemas autónomos? La brecha de responsabilidad,” se exploró la posición de Colombia ante la regulación de la IA.

Viveros resaltó el dilema de la tecnología de doble uso y la dificultad de comunicar sus beneficios y riesgos. Se señaló la importancia de diferenciar la tecnología General Purpose, capaz de ser utilizada tanto para el bien como para el mal. La falta de capacidad para segmentar intrínsecamente plantea el desafío de limitar ciertas funcionalidades o dominios desde las etapas iniciales de desarrollo.

La experta abogó por normas vinculantes y compromisos internacionales para garantizar la efectividad de las restricciones y abordar la brecha de responsabilidad. Además, enfatizó la urgencia de regular los riesgos conocidos y desconocidos de la IA, destacando la necesidad de la sociedad para definir conscientemente límites que sirvan al beneficio humano.

“Entonces, el gran reto de esto es cómo puedes separar si intrínsecamente la tecnología no se puede seccionar o segregar para nuestro voto. Un planteamiento inicial, pues obviamente, es limitar a partir del desarrollo ciertas funcionalidades. Otro sería ciertos dominios. Y el tema es que la única manera de poder hacer que esto sea efectivo es a partir de normas vinculantes a compromisos internacionales que puedan ser instrumentalizados en el enfuerzo de las mecanizaciones. O sea, que aparte haya otros mecanismos adicionales para la brecha de responsabilidad. “

Jimena Viveros, cuya labor inmediata incluye la construcción de un consenso global sobre los riesgos y desafíos de la IA, aboga por fortalecer la cooperación internacional. Su objetivo es alcanzar una gobernanza global de la IA que permita aprovechar la tecnología para lograr los Objetivos de Desarrollo Sostenible de las Naciones Unidas, promoviendo la paz y la seguridad mundial.

“Entonces, todos estos valores y metas que tenemos como sociedad, obviamente nadie quiere tener los riesgos de problemas que existen. Entonces, ¿hasta dónde estamos dispuestos a dejar que esto progErese de manera irregulada? Y ¿hasta dónde queremos que se le puedan delegar decisiones que solo deberíamos de mantenernos nosotros los humanos? Ese es el punto. Y a partir de ahí, construir una revolución acorde a estos valores invencibles.” concluyo Viveros

Últimas Noticias

Bitcoin superó los 52,000 dólares impulsado por el optimismo del mercado

hace 3 horas

Se lanza la cuarta edición de la Diplomatura en Criptoeconomía y Derecho dirigida a abogados y contadores

hace 6 horas

Comisión Jurídica de Inglaterra y Gales inicia consulta sobre la clasificación de criptomonedas como propiedad

hace 8 horas

Avanzan los esfuerzos en Colombia contra la corrupción con programa de formación especializada

hace 9 horas