El principal investigador de ética en IA dice que Google la despidió

Una de las principales científicas de Google sobre inteligencia artificial ética dice que fue despedida después de criticar los esfuerzos de diversidad de la compañía, una afirmación que la unidad Alphabet Inc disputó el jueves, en el último repaso entre el gigante de Internet y los activistas laborales.

Timnit Gebru, quien es negra, dijo en Twitter que fue despedida el miércoles después de enviar un correo electrónico a sus colegas expresando su frustración por la diversidad de género dentro de la unidad de inteligencia artificial de Google y cuestionando si los líderes de la compañía revisaron su trabajo de manera más estricta que el de personas de diferentes orígenes. Gebru cofundó la organización sin fines de lucro Black in AI que tiene como objetivo aumentar la representación de las personas de color en la inteligencia artificial y fue coautor de un artículo histórico sobre el sesgo en la tecnología de análisis facial.

Jeff Dean, jefe de la unidad de inteligencia artificial de Google, dijo al personal en un correo electrónico revisado por Reuters que Gebru había amenazado con renunciar a menos que le dijeran qué colegas consideraban que un borrador del documento que escribió no era publicable, una demanda que Dean rechazó.

“Aceptamos y respetamos su decisión de renunciar a Google”, escribió Dean en el correo electrónico, y agregó: “Todos compartimos genuinamente la pasión de Timnit por hacer que la IA sea más equitativa e inclusiva”.

Gebru dijo en una serie de publicaciones en Twitter que Google la desconectó de sus sistemas sin previo aviso o sin conversar con ella sobre sus preocupaciones.

La abrupta salida de Gebru se suma a años de angustia, incluidas varias renuncias y despidos, en el departamento de inteligencia artificial y otras organizaciones de Google por la diversidad y si los esfuerzos de la compañía para minimizar los daños potenciales de sus servicios son suficientes.

Más de 150 empleados expresaron su apoyo a Gebru, exigiendo que Google refuerce su compromiso con la libertad académica y explique por qué decidió “censurar” su artículo, según una petición publicada en línea. Sherrilyn Ifill, presidenta del Fondo de Educación y Defensa Legal de la NAACP, escribió en Twitter que el despido de Gebru fue “absolutamente exasperante” y “un desastre”.

Apenas el miércoles, la Junta Nacional de Relaciones Laborales emitió una queja acusando a Google de monitorear e interrogar ilegalmente a varios trabajadores que luego fueron despedidos por protestar contra las políticas de la empresa e intentar organizar un sindicato.

El artículo de Gebru sostenía que las empresas de tecnología podrían hacer más para garantizar que los sistemas de inteligencia artificial destinados a imitar la escritura y el habla humanos no exacerben los prejuicios de género históricos y el uso de lenguaje ofensivo, según un borrador visto por Reuters.

En su correo electrónico al personal, Dean dijo que el documento no se había entregado a la compañía para que lo revisara de manera oportuna y que se envió a una conferencia sin el permiso de Google.

También se mostró en desacuerdo con algunas de sus conclusiones, que dijo que se basaban en preocupaciones obsoletas, incluido el impacto ambiental de una gran cantidad de computadoras que procesan datos.

Respondiendo al rechazo de la compañía a su trabajo, Gebru escribió en Twitter la semana pasada: “Nada como un grupo de hombres blancos privilegiados que intentan aplastar la investigación de comunidades marginadas para comunidades marginadas ordenándoles que DETENGAN la conversación CERO. La cantidad de falta de respeto es increíble “.

Google se negó a comentar sobre su partida más allá del correo electrónico de Dean, que fue informado por primera vez por el sitio de noticias de tecnología Platformer.

Gebru trabajó anteriormente en Microsoft Research y fue coautora de un artículo de 2018 ampliamente citado que encontró tasas de error más altas en la tecnología de análisis facial para mujeres con tonos de piel más oscuros.

Se espera que su nuevo artículo, en coautoría con personal ajeno a Google, se presente en una conferencia de informática en marzo, según una persona familiarizada con el tema.