Como sabemos, a medida que cosas como ChatGPT continúan cambiando rápidamente el mundo de la tecnología, existe una creciente preocupación de que los riesgos superen los beneficios.
Hemos escrito antes sobre cómo los chatbots de IA se están convirtiendo rápidamente en una pesadilla de privacidad para los usuarios. Italia incluso prohibió temporalmente las herramientas de OpenAI por estos motivos, lo que provocó un aumento en las descargas de servicios VPN en todo el país.
Mozilla, la organización sin fines de lucro detrás de uno de los mejores navegadores seguros y con 25 años de experiencia haciendo de Internet un lugar mejor, cree en un ecosistema de IA de código abierto confiable e independiente para emerger de manera segura de la nueva ola de IA necesaria para obtener el máximo beneficio.
Entonces, la compañía invirtió $ 30 millones para lanzar Mozilla.ai: una startup y, lo que es más importante, una comunidad para construir sobre esa visión y desarrollar productos de IA más seguros. Hablamos con la jefa de desarrollo del ecosistema de innovación de Mozilla, Liv Erickson, para saber cómo funciona.
liv erickson
Jefe de Desarrollo de Ecosistemas de Innovación en Mozilla
Con más de 10 años de experiencia trabajando en tecnologías emergentes, Liv se unió a Mozilla en 2019, primero como Gerente de Producto y luego como Directora del equipo de Mozilla Hub. Recientemente asumió su nuevo cargo como Directora de Desarrollo de Ecosistemas de Innovación, ayudando a dar forma a la forma en que Mozilla apoya a las organizaciones e individuos que crean nuevas tecnologías con comunidades de usuarios en su núcleo. No hace falta decir que la inteligencia artificial es ahora una de sus principales prioridades.
A medida que los navegadores y los motores de búsqueda se apresuran a desarrollar sus propios chatbots de IA, ¿cuáles son los riesgos y las oportunidades?
Hay muchas oportunidades para que la IA realmente ayude a las personas a colaborar y comunicarse de manera más efectiva. Y hay muchos riesgos en la forma en que estas tecnologías de IA se han desarrollado hasta ahora.
Se ha prestado mucha atención a modelos de lenguaje muy grandes entrenados a partir de información web disponible públicamente. Estos ayudan, especialmente cuando se trata de buscar y encontrar información, pero definitivamente existen riesgos en la forma en que se desarrollan estos sistemas para reflejar el interés del usuario.
Muchos de estos grandes modelos de idiomas se crean en sitios web que son principalmente de habla inglesa. Por lo tanto, dado que estos sistemas generan texto basado en la visión del mundo dominante, existe un riesgo significativo de sesgo en los datos de entrenamiento.
Hay muchas preocupaciones sobre la centralización, la falta de transparencia y la capacidad de registro de cómo se construyen estos sistemas y qué está disponible. Dado que están siendo capacitados con tanta información, puede ser difícil entender de dónde provienen estos datos. Por lo tanto, los grandes modelos centralizados de IA corren el riesgo de sesgos que no entendemos.
¿Dónde encaja Mozilla.ai en esta situación?
Creemos que el papel de Mozilla es que podemos ayudar a dar forma a un ecosistema en el que las personas puedan construir estas tecnologías de manera diferente. Cuando compartimos información, nos aseguramos de que esta tecnología sea accesible incluso si no tiene acceso a los vastos recursos de computación en la nube.
Al trabajar con desarrolladores, fundadores, empresas, organizaciones y científicos, esperamos crear este tercer espacio en el que ninguna persona tenga un interés colectivo en las tecnologías que se unen para ayudar a darle forma.
Realmente lo miramos desde todo tipo de ángulos diferentes. Mozilla.ai es un componente, y estamos buscando productos y servicios que Mozilla puede crear para ayudar a las personas a resolver este problema.
Y hay una iniciativa que comenzamos dentro de la Fundación Mozilla, el desafío de IA responsable, donde realmente estamos tratando de tomar una variedad de diferentes métodos de Disciplina.
¿Crees que es realmente posible resolver los problemas de privacidad relacionados con los datos de entrenamiento para las herramientas de IA?
Esa es una gran pregunta, y es un componente realmente clave de cómo Mozilla ve nuestro papel particular en este espacio, porque las personas están encontrando formas de crear nuevos conjuntos de datos que son más pequeños, más personalizados y documentados.
Estos son algunos proyectos impulsados por la comunidad realmente interesantes que se centran en cómo la confianza y las relaciones entre diferentes individuos pueden construir sistemas comparables a estos modelos de lenguaje extenso (LLM). Y, volviendo a la privacidad y la confianza, este tipo de modelos permiten detalles sobre el origen de la información.
(Crédito de la imagen: Shutterstock/Tada Images)
En su opinión, ¿la regulación de la IA podría ayudar a Mozilla a promover una IA más segura?
Definitivamente creo que los reguladores tienen un papel que desempeñar para ayudar a las empresas que crean este tipo de software a crear marcos para comunicar cómo entrenan sus modelos y de dónde proviene esa información.
Creo que también se puede hacer mucho en términos de ampliar la definición de privacidad y lo que significa la información personal. A medida que estos sistemas se vuelven más capaces de identificar a las personas de manera única, los reguladores tienen la oportunidad de ver cómo evolucionará la definición de privacidad.
Los reguladores también tienen un papel que desempeñar para ayudar a aumentar la transparencia sobre las capacidades reales de estos sistemas, brindando a los consumidores comunes una idea de lo que realmente está sucediendo o no, para proteger a los usuarios de afirmaciones engañosas sobre lo que estos sistemas pueden hacer.
Mientras Mozilla celebra su 25.º año en el negocio, ¿cuáles considera que son los mayores logros en la promoción de una Internet más privada y gratuita?
Cuando observamos nuestro papel en este ecosistema, creo que realmente hemos podido cambiar la forma en que la gente piensa sobre la construcción de estas tecnologías.
Con Firefox, Mozilla se esfuerza por hacerlo accesible y accesible para los desarrolladores, para ayudar a cualquiera que quiera marcar la diferencia en Internet a tener los recursos y las capacidades para hacerlo. Realmente, solo ayudamos a dar forma a una forma más colectiva de construir tecnología juntos.
Hoy, esto también sirve como modelo para ayudarnos a mirar 25 años en el futuro y lo que eso significa para la IA, que es un gran tema en este momento, pero en general, cómo las personas interactúan con la tecnología, Internet y entre sí.
En tu opinión, ¿cuál es la mayor amenaza a la que se enfrenta Internet hoy en día?
Creo que es un riesgo centralizar tanto de lo que estamos viendo en tecnología en los grandes proveedores de la nube, viendo qué tan rápido pueden construir y entregar cosas a los usuarios.
Volviendo a nuestro papel de construir comunidades, donde podemos hacer preguntas en Mozilla y reunir a las personas para ayudar a resolverlas, creo que es un antídoto.
(Fuente de la imagen: Stocksy)
El centro del Manifiesto de Mozilla es la promoción de una Internet saludable. Entonces, ¿cómo vas a hacer esto?
Creo que si le preguntas a diferentes personas en Mozilla obtendrás opiniones diferentes, pero para mí se trata de repensar la forma en que definimos la innovación.
Internet toca la vida de tantas personas, pero un número excesivo de personas en realidad tiene algo que decir sobre cómo se construye o cómo se usan sus datos. Cuando pienso en cómo será el futuro de la innovación en Internet, busco formas de innovar con estas comunidades, crear una red realmente amplia, estar dispuesto a ser transparente sobre lo que estamos intentando y aprendiendo, y para invertir en proyectos, aunque no estén en Mozilla.
Con la velocidad a la que todo se mueve, tenemos una ventana relativamente corta para asegurarnos de no repetir los errores que hemos cometido en el pasado con los sistemas centralizados. Es importante resaltar la necesidad de más soluciones comunitarias en este espacio y desafiar realmente nuestra forma predeterminada de pensar sobre cómo se construye la tecnología, que es a la vez emocionante y desafiante.
Comparación de las mejores VPN generales de hoy
