Oasis labs anuncia su asociación con Meta (antigua Facebook) y el lanzamiento de una plataforma para evaluar la equidad en los productos de Meta, al mismo tiempo que se protege la privacidad de las personas.
Como socio tecnológico de Meta, Oasis Labs creó la plataforma que utiliza Computación multipartita segura (SMPC) para proteger la información, ya que Meta les pide a los usuarios de Instagram que realicen una encuesta en la que pueden compartir voluntariamente su raza o etnia.
El proyecto promoverá la medición de la equidad en los modelos de IA, lo que tendrá un impacto positivo en la vida de las personas en todo el mundo y beneficiará a la sociedad en su conjunto. Esta plataforma, primera en su tipo, jugará un papel importante en una iniciativa que es un paso importante para identificar si un modelo de IA es justo y permite la mitigación adecuada.
Cómo evaluará la plataforma la equidad en los modelos de IA de META
Los equipos de IA responsable, equidad de Instagram y derechos civiles de Meta presentan una encuesta fuera de la plataforma para las personas que usan Instagram. Se les pedirá a los usuarios que compartan su raza y/o etnia de forma voluntaria.
Los datos, recopilados por un proveedor de encuestas externo, se compartirán en secreto con facilitadores externos de tal manera que ni los facilitadores ni Meta puedan conocer las respuestas de la encuesta del usuario.
Luego, los facilitadores calculan la medición utilizando datos de predicción encriptados de modelos de IA, que Meta comparte criptográficamente, con los resultados combinados y anonimizados de cada facilitador reconstituidos en resultados de medición de equidad agregados por Meta.
Las técnicas criptográficas utilizadas por la plataforma permiten a Meta medir el sesgo y la equidad al tiempo que proporciona a las personas que aportan datos de medición demográficos sensibles altos niveles de protección de la privacidad.
Para leer más sobre la plataforma, sus objetivos y el lanzamiento, lea más aquí .
Una visión de inclusión global y equidad en los modelos de IA en beneficio de millones
Meta y Oasis comparten una visión común sobre la IA responsable y el uso responsable de los datos.
Las técnicas criptográficas que se emplean en la plataforma, a la escala en la que se utilizarán, no tienen precedentes. Este es el comienzo de un nuevo viaje.
“Buscamos garantizar que la IA en Meta beneficie a las personas y a la sociedad, lo que requiere una colaboración profunda, tanto interna como externa, en un conjunto diverso de equipos”, dijo Esteban Arcaute, Director de IA Responsable en Meta. “La metodología Secure Multi Party Compute es un enfoque centrado en la privacidad desarrollado en asociación con Oasis Labs que permite un trabajo de medición crucial sobre la equidad mientras mantiene la privacidad de las personas a la vanguardia mediante la adaptación de métodos de preservación de la privacidad bien establecidos”.
Junto con Meta exploraremos más enfoques de preservación de la privacidad para estudios de sesgo más complejos. Dado el deseo de llegar a miles de millones de personas en todo el mundo, esperamos explorar usos novedosos de las tecnologías Web3 emergentes, respaldadas por redes de cadena de bloques.
El objetivo es proporcionar una mayor accesibilidad, auditibilidad y transparencia global en torno a la realización y recopilación de datos de encuestas y su uso en la medición.
La profesora Dawn Song, fundadora de Oasis Labs, dijo: “Estamos entusiasmados de ser el socio tecnológico de Meta en esta innovadora iniciativa para evaluar la equidad en los modelos de IA, mientras se protege la privacidad de los usuarios mediante técnicas criptográficas de vanguardia. Este es un uso sin precedentes de estas técnicas para una medición a gran escala de la equidad del modelo de IA en el mundo real. Esperamos trabajar con Meta para construir una IA responsable y un uso responsable de los datos para una sociedad más justa e inclusiva”.
Trabajo y misión de Oasis Labs
El uso y la propiedad responsables de los datos siempre han estado al frente de nuestra visión central. Entendemos que en un mundo Web3 ninguna entidad puede dar por sentado los datos de los usuarios, y estamos creando tecnologías para garantizar que la propiedad y el control de los datos estén en manos de las personas.
Mediante el uso de blockchain, computación confidencial y tecnologías de preservación de la privacidad, tenemos la visión de crear plataformas y productos que promuevan la protección de la privacidad individual, el gobierno de datos y el uso responsable de los datos. Las tecnologías de Oasis se enfocan en facilitar que los desarrolladores incorporen almacenamiento de datos, gobernanza y computación para preservar la privacidad.
La descentralización y Web3 tienen la capacidad de llegar a personas de todo el mundo. Cuando se combina con la privacidad de los datos, esto desbloquea la capacidad de las empresas para llegar a una audiencia global, obtener un uso que preserve la privacidad de datos altamente confidenciales y crear mejores productos que traten a todos por igual.
Mantente conectado
Si desea analizar posibles asociaciones y oportunidades de colaboración con Oasis Labs, comuníquese con nosotros aquí y manténgase actualizado siguiendo nuestra cuenta de Twitter y suscribiéndose a nuestro boletín .
Si desea mantenerse actualizado sobre los desarrollos con Oasis Network, únase a Discord , síganos en Twitter y suscríbase al boletín .
¡Sigamos Conectados!
Si está trabajando en Oasis Network y desea que su progreso se incluya en la próxima actualización mensual, envíenos un correo electrónico a info@oasisprotocol.org .
¡ Únete a nuestro Discord y síguenos en Twitter !
MAS INFORMACION SOBRE OASIS
