En la parte anterior de esta serie de blogs de tres partes, detallamos el estado actual de Reputación digital y las tácticas utilizadas que socavan una proporción significativa del mercado, dejando a la gente común confundida sobre qué creer y qué no creer. En esta parte, cubriremos cómo el mercado actualmente trata de manejar el problema y por qué está fallando.
Como se detalla en la parte anterior de esta serie, hay siete formas comunes en que se crean comentarios y revisiones falsos o falsos:
'Crowdturfing'Pagado por ComentariosBots'Sock Puppeting'Competidores "Blackhatting"Ingeniería socialCastigo opiniones
Cada uno de estos se trata con una mezcla de técnicas, y son muy inadecuados para la tarea que enfrentan. A pesar de muchos giros de mercadotecnia, charlas técnicas y ruidos tranquilizadores, las herramientas utilizadas para vigilar estos sistemas son similares a tratar de apagar un incendio con una pistola de agua.
Entonces, para abrir la cortina, estas son las técnicas actualmente en uso:
Lista negra
Como esta hecho: Actualmente, las listas negras son el enfoque más común. Implica tratar de marcar direcciones IP y cuentas para acciones en común, por ejemplo, ver "brigada" (actuar como un enjambre coordinado) de 300 cuentas para enviar revisiones falsas, o ver un número excesivo de revisiones desde una dirección IP. Algunos también introducen huellas digitales en el navegador (de una forma ligeramente "invadir su privacidad / bastante espeluznante") sobre esto.
Donde se rompe: La lista negra es un "curita para una herida de bala": no detiene las revisiones falsas, reduce el flujo de revisiones falsas de fuentes que utilizan un filtrado de red a nivel crudo y socava la seguridad de quienes usan VPN o Proxies para garantizar su privacidad. . La complicación es que es muy fácil de evadir por aquellos que intentan ganar dinero con las revisiones falsas, por lo que no resuelve el problema, hace la vida más difícil para los usuarios y se involucra en técnicas dudosas.
Revisión Manual
Como esta hecho: Alguna alma desafortunada tiene que examinar las revisiones manualmente, verificando aspectos comunes, inconsistencias y tratando de encontrar falsificaciones ocultas entre las revisiones reales.
Donde se rompe: La revisión manual requiere muchos recursos. Los humanos no son baratos, e incluso entonces el personal contratado en el extremo inferior del soporte de pago no son expertos en lingüística capacitados en Quantico, son grandes equipos que trabajan largas horas sin agradecimiento. Peor aún, no todas las revisiones están sujetas al mismo escrutinio: para ahorrar costos de recursos, solo cuando los artículos están marcados están sujetos a revisión manual. ¿Cuándo fue la última vez que marcó una revisión que pensó que era sospechosa? Es probable que se marque menos del 1%, y cuando el problema representa el 20% de las revisiones, esto deja una enorme disparidad.
Procesamiento de lenguaje natural y IA
Como esta hecho: AI y PNL se han mantenido como la respuesta a Fake Reviews por cinco años. La técnica generalmente utiliza algoritmos de Procesamiento de Lenguaje Natural (y algunas veces el 'algoritmo' está exagerando) para analizar la revisión como está escrita, así como usar Machine Learning en combinación con técnicas similares a las de la Lista Negra para llegar a una solución automatizada que evalúe las revisiones tanto en el envío. y después.
Donde se rompe: El problema con este enfoque es que depende de qué tan buena sea tu IA. A diferencia de las ideas de la IA de Hollywood, la IA todavía se encuentra en una etapa muy temprana (y bastante estúpida) de desarrollo. Peor aún, los farsantes utilizan las mismas técnicas, y contrariamente a la idea ficticia de dos AI que luchan como Godzilla vs Mothra, es un concurso desigual. La IA defensora tiene que cubrir todos y cada uno de los posibles vectores de ataque, la IA atacante solo necesita encontrar un agujero y puede minarlo todo.
En agosto, la cantidad de revisiones en Amazon que, después de la revisión manual, fueron marcadas como antinaturales más que duplicadas, en otras palabras, las técnicas de IA falsas están ganando y se están pasando la IA desarrollada por una compañía con recursos prácticamente ilimitados que construyeron sus propios Plataforma de AI para que otros puedan usar.
Si las mejores mentes de Amazon no pueden ofrecer una solución NLP / AI para el paradigma de revisión actual que es 100% efectivo, ninguno de los jugadores más pequeños puede (Mirando a Yelp, TripAdvisor, E-Bay, etc.). Peor aún, es menos del 50% efectivo al momento de escribir y no muestra signos de mejora.
Accion legal
Como esta hecho: Encuentre revisores, sirva un Cease & Desist y solicíteles individualmente. No realmente. Amazon ha estado haciendo esto a los críticos que ofrecen críticas falsas en Fiverr.
Donde se rompe: Si tienes que demandar a alguien, tu tecnología está rota. Pregunte a la industria de la música cómo los litigios contra Napster resolvieron su problema de piratería (Spoilers: Lo empeoró). Es un juego de whack-a-mole dirigido a individuos que pueden o no estar en una jurisdicción donde puedes detenerlos. Es el acto desesperado de una empresa que reconoce tácitamente que no puede resolver el problema.
Luchando contra el diluvio
Por lo tanto, ninguna de las técnicas utilizadas aborda el problema adecuado. Individuales o en combinación, ninguna de estas técnicas se ocupa de ninguno de los ataques comunes, y mucho menos cuando se usan combinados (sugerencia: generalmente lo son).
Entonces, ¿cómo luchar contra esta marea creciente de retroalimentación sintética? Eso es lo que hemos pasado casi tres años investigando, diseñando y construyendo, y tenemos la respuesta. En la siguiente parte de esta serie, le mostraremos cómo Tru Reputation Network resuelve estos problemas y, al hacerlo, abre un futuro brillante de posibilidades que afectará a todos los usuarios de Internet.