Nueva certificación para la ética en inteligencia artificial

Debido a la necesidad de regular los contenidos generados por los sistemas de inteligencia artificial, hoy surge una propuesta llamada Fairly Trained, una iniciativa encabezada por Ed Newton-Rex, ex ejecutivo de Stability AI, donde busca certificar a las empresas de GenAI que utilizan datos de entrenamiento con licencia, asegurando el consentimiento de los creadores de dicho contenido.

Un punto que resaltar del porque surge Fairly Trained es la ausencia de certificaciones para modelos de generación de texto. Según declaró Newton-Rex, estos modelos (de generación de texto) no cumplen con los criterios debido a que dependen de un gran volumen de contenido con derechos de autor.

Por otro lado, OpenAI, la empresa detrás de ChatGPT, ha comentado que es prácticamente imposible desarrollar tales modelos sin usar este tipo de contenido, subrayando una disyuntiva central en el campo de la GenAI. La iniciativa de Fairly Trained es un primer paso para alcanzar un equilibrio entre la innovación tecnológica y respeto por la propiedad intelectual. 

El camino hacia modelos de IA que respeten totalmente los derechos de autor está lleno de obstáculos, esta certificación plantea una alternativa viable y que se ajusta a la visión de Newton-Rex de modelos de lenguaje entrenados con menos datos y bajo licencias adecuadas, lo cual abriría una ventana de esperanza hacia un futuro más ético dentro de la IA.

La iniciativa Fairly Trained señala un cambio de paradigma en cómo la industria y los consumidores perciben y utilizan la inteligencia artificial, y podría dirigir el desarrollo de la GenAI con prácticas éticas, además del potencial de otorgarle la importancia que se debe, al contenido creado con anterioridad. 

El proyecto se basa en diversos puntos como Conciencia y responsabilidad corporativa: lo que podría diferenciar a las empresas de aquellas que no están certificadas, Preferencias del consumidor: la certificación puede ser un factor decisivo de compra, Innovación en el Entrenamiento de Modelos de IA: se podría incentivar la investigación y el desarrollo de nuevos métodos de entrenamiento de IA que no dependan de grandes cantidades de datos con derechos de autor, lo que significa innovación en el campo, y por último, Sensibilización y educación: la oportunidad de educar al público sobre derechos de autor y el uso ético de los datos en la IA.

Se espera que este proyecto tenga continuidad, aun cuando enfrentan factores dentro del sector como la adopción e implementación por parte de las empresas creadoras, lo que no se pude negar, es que tiene el potencial de influir positivamente en el desarrollo ético y responsable de la inteligencia artificial generativa.

Todos los detalles en https://www.fairlytrained.org/