Google le ofreció a un profesor $ 60,000, pero él lo rechazó. – PanaTimes


Cuando Luke Stark pidió dinero a Google en noviembre, no tenía idea de que rechazaría 60.000 dólares del gigante tecnológico en marzo.

Stark, profesor asistente de la Western University en Ontario, Canadá, estudia los impactos sociales y éticos de la inteligencia artificial. A fines de noviembre, solicitó un premio Google Research Scholar, una subvención de investigación sin compromiso de hasta $ 60,000 para apoyar a los profesores que se encuentran al comienzo de sus carreras.

Él se postuló para el premio, dijo, “debido a mi sensación en ese momento de que Google estaba construyendo un equipo de IA ética realmente fuerte y potencialmente líder en la industria”.

Poco después, ese sentimiento comenzó a disiparse. A principios de diciembre, Timnit Gebru, el colíder del equipo de inteligencia artificial ética de Google y una prominente mujer negra en un campo mayoritariamente blanco y masculino, abandonó abruptamente Google. El miércoles 2 de diciembre, tuiteó que había sido “inmediatamente despedida” por un correo electrónico que envió a una lista de correo interna. En el correo electrónico, expresó su consternación por la falta continua de diversidad en la empresa y su frustración por un proceso interno relacionado con la revisión de un artículo de investigación no publicado en ese momento sobre los riesgos de construir modelos de lenguaje de IA cada vez más grandes, un tipo de IA que está de moda. es cada vez más importante para el enorme negocio de búsquedas de Google.

En ese momento, Gebru dijo que el liderazgo de Google AI le dijo que retirara el documento de la consideración para su presentación en una conferencia o que eliminara su nombre.

Google dijo que aceptó la renuncia de Gebru por una lista de demandas que había enviado por correo electrónico que debían cumplirse para que pudiera seguir trabajando en la empresa.

La destitución de Gebru inició una crisis de meses para la empresa, que incluyó la salida de empleados, un cambio de liderazgo y una disculpa del director ejecutivo de Google por cómo las circunstancias de la salida de Gebru hicieron que algunos empleados cuestionaran su lugar allí. Google llevó a cabo una investigación interna sobre el asunto, cuyos resultados se anunciaron el mismo día en que la empresa despidió a la co-líder del equipo de Gebru, Margaret Mitchell, quien había criticado constantemente a la empresa en Twitter tras la salida de Gebru. (Google citó “múltiples violaciones” de su código de conducta). Mientras tanto, los investigadores fuera de Google, particularmente en IA, se han vuelto cada vez más desconfiados de la erudición históricamente bien considerada de la compañía y están enojados por su trato a Gebru y Mitchell.

Todo esto se enfocó claramente para Stark el miércoles 10 de marzo, cuando Google le envió una nota de felicitación, ofreciéndole $ 60,000 por su propuesta para un proyecto de investigación que analizaría cómo las empresas están implementando IA que se utiliza para detectar emociones. Stark dijo que sintió de inmediato que necesitaba rechazar el premio para mostrar su apoyo a Gebru y Mitchell, así como a aquellos que aún permanecen en el equipo de IA ética en Google.

“Mi primer pensamiento fue, ‘tengo que rechazarlo'”, dijo Stark a CNN Business.

Luke Stark rechazó un premio de investigación de $ 60,000 de Google en apoyo de los líderes derrocados de su grupo de IA ética.

Stark se encuentra entre un número creciente de personas en el mundo académico que están citando las salidas de Gebru y Mitchell por decisiones recientes de perder fondos u oportunidades proporcionadas por la empresa. Algunos organizadores de conferencias de IA están reconsiderando tener a Google como patrocinador. Y al menos un académico que ha recibido un gran cheque de Google en el pasado ha declarado desde entonces que no buscará su apoyo financiero hasta que se realicen cambios en la empresa.

“En conciencia, ya no puedo aceptar fondos de una empresa que trata a sus empleados de esta manera”, dijo a CNN Business Vijay Chidambaram, profesor asistente de la Universidad de Texas en Austin que estudia sistemas de almacenamiento. Chidambaram recibió previamente $ 30,000 de Google en 2018 para un proyecto de investigación.

El dinero involucrado tiene poca importancia para Google. Pero las consecuencias cada vez mayores de las tensiones de Google con su equipo de inteligencia artificial ética ahora representan un riesgo para la reputación y la estatura de la empresa en la comunidad de inteligencia artificial. Esto es crucial a medida que Google lucha por el talento, tanto como empleados de la empresa como en nombres relacionados con ella en la comunidad académica.

“Creo que esto es más amplio de lo que incluso la compañía se da cuenta”, dijo Stark.

Declinando la solidaridad

A pesar de su inclinación inicial, Stark no rechazó de inmediato el premio de Google. Habló con sus colegas sobre lo que planeaba hacer: “La gente apoyó cualquier decisión que tomé”, dijo, antes de enviar a Google su respuesta el viernes siguiente. Agradeció a la empresa el “voto de confianza” en su investigación, pero escribió que estaba “rechazando este premio en solidaridad con los doctores Gebru y Mitchell, sus compañeros de equipo y todos aquellos que han estado en situaciones similares”, según correos electrónicos vistos por CNN Business.

“Espero con interés la posibilidad de volver a colaborar con Google Research, en el momento en que la organización y sus líderes hayan reflexionado sobre su decisión en este caso, hayan abordado los daños que hayan causado y se hayan comprometido, de palabra y de hecho, a fomentar investigación crítica y productos que apoyan la equidad y la justicia “, escribió Stark.

También tuiteó sobre su decisión de rechazar el premio, de hacerlo público, y señaló que muchas personas no pueden permitirse rechazar dichos fondos de Google u otras empresas. Stark puede renunciar al dinero porque su departamento en la Western University cuenta con los fondos suficientes. El premio de Google habría proporcionado dinero extra para la investigación, dijo.

“Todo lo que podemos hacer es lo que podemos hacer razonablemente, y esto era algo que sentí que podía”, tuiteó Stark.

Gebru dijo que apreciaba la acción de Stark.

“Es un gran negocio que alguien rechace el patrocinio de Google”, le dijo a CNN Business. “Especialmente alguien que está al principio de su carrera”.

Un portavoz de Google dijo que, durante los últimos 15 años, la compañía ha otorgado más de 6.500 becas académicas y de investigación a quienes no pertenecen a Google. Stark es la primera persona en rechazar uno, según el portavoz.

“Fue un verdadero fiasco la forma en que fueron tratados”

Sin embargo, la decisión de Stark es solo la última muestra de solidaridad con Gebru y Mitchell.

La primera señal obvia de enojo se produjo justo después de que Gebru dejó Google. Una publicación de Medium que denunció su partida y exigió transparencia sobre la decisión de Google con respecto al trabajo de investigación obtuvo rápidamente las firmas de los empleados y partidarios de Google dentro de los campos académico y de inteligencia artificial; a finales de marzo, su número de seguidores había aumentado a casi 2.700 empleados de Google y más de 4.300 más.

Google es consciente de que su reputación en la investigación de la IA se ha visto dañada recientemente y ha dicho que tiene la intención de solucionarlo.

A principios de marzo, la conferencia a la que Gebru y sus coautores habían presentado el documento, la Conferencia ACM sobre equidad, responsabilidad y transparencia, o FAccT, suspendió su acuerdo de patrocinio con Google. Gebru es uno de los fundadores de la conferencia y fue miembro del primer comité ejecutivo de FAccT. Google ha sido patrocinador cada año desde que comenzó la conferencia anual en 2018. Michael Ekstrand, copresidente de ACM FAccT
Network, confirmó a CNN Business que el patrocinio se detuvo, diciendo que se determinó que la medida era “en el mejor interés de la comunidad” y que el grupo “revisará” su política de patrocinio para 2022. Ekstrand dijo que Gebru no participó en el decisión.

También en marzo, dos académicos protestaron por las acciones de Google al tuitear que decidieron no asistir a un evento de investigación de robótica solo por invitación que se estaba llevando a cabo en línea. Hadas Kress-Gazit, profesor de robótica de Cornell, fue uno de ellos; dijo que fue invitada en enero, pero se volvió más reticente a medida que se acercaba el evento.

“Fue un verdadero fiasco la forma en que [Gebru and Mitchell] fueron tratados. Nadie se disculpó con ellos aún “, dijo a CNN Business en una entrevista reciente.” No quiero interactuar con compañías que se comportan de esa manera con los mejores investigadores “.

Los esfuerzos de Google para ampliar los límites de la inteligencia artificial

Google es consciente de que su reputación como institución de investigación se ha visto dañada en los últimos meses y la compañía ha dicho que tiene la intención de solucionarlo. En una reunión reciente en el ayuntamiento de Google, sobre la que Reuters informó por primera vez y de la que CNN Business también obtuvo audio, la compañía describió los cambios que está realizando en sus prácticas internas de investigación y publicación.

“Creo que la forma de recuperar la confianza es continuar publicando trabajos de vanguardia en muchas, muchas áreas, incluida la superación de los límites en temas relacionados con la inteligencia artificial responsable, la publicación de cosas que son profundamente interesantes para la comunidad de investigación, creo que es una de las mejores formas de continuar siendo un líder en el campo de la investigación “, dijo Jeff Dean, director de IA de Google. Respondió a una pregunta de un empleado sobre investigadores externos que dijeron que leerán los artículos de Google “ahora con más escepticismo”.

Gebru espera que, como FAccT, más conferencias reevalúen sus relaciones con los laboratorios de investigación de las empresas de tecnología. Históricamente, gran parte del trabajo en el desarrollo y estudio de la IA se ha realizado en entornos académicos. Pero a medida que las empresas han encontrado cada vez más usos comerciales para la tecnología, las líneas entre el mundo académico y el corporativo se han difuminado. Google es solo una de las muchas empresas de tecnología que ejerce una gran influencia en las conferencias académicas que publican muchos de los artículos de sus investigadores; sus empleados participan en juntas de conferencias y patrocina numerosas conferencias cada año, a veces por una suma de decenas de miles de dólares.

Por ejemplo, Google y algunas subsidiarias de su empresa matriz, Alphabet, figuraron como patrocinadores de nivel “platino” de $ 20,000 y “oro” de $ 10,000 en la Conferencia Internacional sobre Aprendizaje Automático, o ICML y la Conferencia sobre Sistemas de Procesamiento de Información Neural, o NeurIPS, en 2020: ambas conferencias clave de IA. Y algunos de los empleados de la empresa forman parte de sus comités organizativos.

El presidente de ICML, John Langford, dijo que la conferencia está “actualmente abierta al patrocinio” de Google para su conferencia de 2021, que está programada para julio.

“Hay bastante discusión en curso sobre cómo ICML, como conferencia, debería fomentar una buena cultura y prácticas de aprendizaje automático con una política de patrocinio futura como parte de esa discusión”, agregó.

La directora ejecutiva de NeurIPS, Mary Ellen Perry, dijo que la conferencia aún no ha hecho su convocatoria anual de patrocinios, pero que las solicitudes “serán evaluadas según un conjunto de pautas de selección establecidas por los presidentes de patrocinio de este año”; NeurIPS está programado para diciembre.

Sin embargo, para Stark y otros miembros de la comunidad de investigación académica, sus criterios para aceptar fondos de Google ya han cambiado.

“El dinero extra para la investigación sería fantástico”, dijo Stark. “Pero era algo que sentí que no podía soportar”.

.



Source link