Cómo usamos la IA sin inventar hechos

Una IA te dirá que una herramienta tiene un nivel gratuito cuando no es así. Te dará un precio antiguo o una función que no existe. No se trata de errores tipográficos. El modelo simplemente está llenando los huecos con palabras que parecen correctas.

Si publicas reseñas, este error es peligroso. Hace que tus lectores se registren en los planes equivocados.

Usamos IA para escribir nuestros artículos. Te informamos cada vez que una IA interviene en una publicación. Nuestro objetivo es evitar que la IA invente hechos. Este es nuestro proceso.

Separamos dos tareas. No permitimos que la IA haga ambas.

  • Tarea 1: Redacción del texto.
  • Tarea 2: Búsqueda de los hechos.

La IA puede realizar la primera tarea. Nunca se le permite realizar la segunda.

Cada hecho en nuestras reseñas proviene de una fuente que verificamos nosotros mismos. Revisamos páginas de precios, registros de cambios (changelogs) y documentación. Colocamos estos hechos en un documento de notas con una URL y una fecha. Solo entonces la IA escribe el texto en torno a esos hechos.

Nuestros prompts son diferentes. La mayoría de la gente pregunta: "Háblame de los precios de esta herramienta". Nosotros decimos: "Aquí tienes cuatro datos de precios verificados hoy. Usa solo estos datos para escribir un párrafo. Dime si quieres añadir algo más".

Esto convierte el impulso de la IA de mentir en una lista para que un humano la verifique.

Seguimos estas reglas:

  • No confiamos en números sin fuente. Cualquier precio, límite o fecha es culpable hasta que lo demostremos con una fuente primaria.
  • No permitimos que la IA cite fuentes. Si la IA dice "según un estudio", lo eliminamos a menos que tengamos el enlace real.
  • Usamos la IA para la estructura. Nos ayuda a organizar notas, corregir la gramática o construir esqueletos de tablas. Estas tareas no requieren que la IA conozca hechos del mundo real.
  • Realizamos dos lecturas separadas. La primera lectura es para la calidad. La segunda lectura es solo para las afirmaciones. Preguntamos: "¿De dónde proviene esta frase específica?". Si no está en nuestras notas, la eliminamos.

Una reseña puede ser correcta hoy y errónea en tres meses. Las herramientas cambian sus precios. Mantenemos enlaces de fuentes con fecha para poder volver a verificar nuestros hechos de forma periódica.

El sistema es sencillo:

  • La IA escribe.
  • Los humanos son dueños de los hechos.
  • Cada afirmación tiene una fuente con fecha.
  • Verificamos dos veces antes de publicar.

No le pidas a la IA que sea algo que no puede ser.

Fuente: https://dev.to/pickuma/how-we-use-ai-without-letting-it-hallucinate-into-reviews-1of5