(26-08-2023)
Associated Press (AP) ha publicado finalmente las directrices que regulan en sus redacciones el uso de herramientas de inteligencia artificial generativa, como ChatGPT. Las nuevas normas se han agregado a su libro de estilo apenas unas semanas después de que AP anunciara un acuerdo con OpenAI, por el cual AP dará a OpenAI acceso a parte del contenido del archivo desde 1985 y la agencia se beneficiará a los avances en tecnología que dé OpenAI.
La guía aconseja a los periodistas que eviten un lenguaje que atribuya características humanas a estos sistemas, o use pronombres de género, y recuerda que tales sistemas son creados por personas con sus propios prejuicios y objetivos humanos.
Las nuevas entradas disponibles en AP Stylebook Online [para los no asociados, Associated Press ofrece un acceso gratuito de prueba de 14 días a su libro de estilo online] abordan especialmente tres campos:
- Inteligencia artificial generativa, aclarando el concepto y aconsejando considerar la tendencia de los modelos a generar respuestas imprecisas a las consultas.
- Datos de entrenamiento, explicación del término y asesoramiento para considerar la información específica que los datos de entrenamiento pueden contener a medida que los modelos de aprendizaje automático aprenden a encontrar patrones a partir de estos conjuntos de datos. Los tipos de datos de entrenamiento utilizados en diferentes herramientas de IA pueden variar ampliamente.
- Sesgo algorítmico, un término utilizado para describir los impactos negativos de las herramientas de IA que se basan en grandes conjuntos de datos que están sesgados por el sesgo histórico o de selección.
El Manual de estilo de AP ahora también incluye orientación para que los periodistas cubran y expliquen con precisión a sus audiencias las tecnologías y los conceptos utilizados en su creación.
La guía aconseja que la cobertura de las herramientas de IA explique cómo funcionan estos sistemas, dónde se implementan, si están regulados, quién se beneficia y gana dinero como resultado de su uso, y qué comunidades pueden verse afectadas negativamente por tales herramientas.
Incluye enfoques informativos sugeridos para los periodistas que cubren la IA y sus efectos, así como también trampas comunes a evitar.
Por ejemplo, los periodistas deben tener cuidado con las afirmaciones de los desarrolladores de IA que describen sus herramientas de manera exagerada o evitar citar a representantes de la empresa sobre el poder de su tecnología sin verificar sus afirmaciones.
Las nuevas normas prohíben expresamente alterar elementos en fotografías, vídeos o audios. Además, se desaconseja la transmisión de imágenes generadas por IA que pudieran resultar falsas. Sin embargo, en el caso de que una obra generada por IA sea el tema central de una noticia, se puede utilizar siempre que se etiquete claramente.
Además de las recomendaciones de uso, la guía alienta a los periodistas a ejercer el mismo nivel de cautela y escepticismo al tratar con contenidos generados por IA, incluyendo la verificación de la fuente original del contenido.
El desarrollo de esta guía ha estado a cargo de la periodista de investigación Garance Burke, que centró precisamente en el impacto de la IA su investigación como becaria de la Universidad de Stanford.
Amanda Barrett, vicepresidenta de estándares e inclusión de AP, manifestó en una nota de prensa que la precisión, imparcialidad y rapidez son valores esenciales para los informes de noticias de AP y enfatizó la creencia de que el uso adecuado de la inteligencia artificial podría servir a estos valores y mejorar con el tiempo la forma en que trabajan.
Según Barrett, aunque AP tiene un acuerdo de licencia con OpenAI, fabricante de ChatGPT, el personal de AP puede experimentar con ChatGPT con precaución, pero no debe usarlo para crear contenido publicable. En ese sentido, cualquier información procedente de una herramienta de IA generativa debe tratarse como material de fuente no verificado. Por lo tanto, es esencial que el personal de AP aplique su criterio editorial y los estándares de citación al considerar cualquier información para su publicación, según estas nuevas normas que se han agregado al libro de estilo, recuerda Barret.
En ese contexto, Barrett hizo hincapié en que las herramientas de IA no reemplazan el conocimiento periodístico, la experiencia y la capacidad de conectar con las audiencias.
