【315晚会曝光AI大模型被投毒】Secondo le rivelazioni di esperti del settore, i giornalisti hanno effettuato ricerche su più piattaforme online e hanno rapidamente trovato un'attività chiamata GEO. I fornitori di servizi che operano in questo settore affermano che gli utenti, pagando una certa somma, possono far sì che i prodotti dei clienti siano nominati nei principali modelli AI; rendendo la pubblicità dei clienti la "risposta standard" fornita dal modello AI. È davvero possibile che la tecnologia GEO consenta all'AI di "inserire contenuti non richiesti" o addirittura di diffondere informazioni false? Secondo le informazioni disponibili online, i giornalisti hanno contattato un noto fornitore di servizi GEO. Il responsabile, il signor Wang, ha detto ai giornalisti che il punto di forza della loro azienda è aiutare i clienti a posizionarsi in alto quando i consumatori utilizzano i modelli AI per le ricerche. "È come scrivere articoli promozionali e poi farli pubblicare, inserire e raccogliere sulle piattaforme AI." Allo stesso tempo, il signor Wang ha anche informato i giornalisti che gli algoritmi dei modelli AI vengono aggiornati frequentemente, e per mantenere le raccomandazioni continue del modello AI, è necessario fornire costantemente un gran numero di articoli promozionali correlati ai clienti. Tra i fornitori di servizi GEO, il modo di controllare l'AI, farla "ascoltare" e "lavarle il cervello" è praticamente il tema centrale della promozione di questo servizio. Gli esperti del settore hanno detto ai giornalisti che GEO, come strumento software per ottimizzare la distribuzione delle informazioni e migliorare l'efficienza promozionale, è stato scoperto avere un'altra funzione agli occhi di alcune aziende commerciali. Un esperto del settore ha acquistato casualmente un software chiamato "Sistema di Ottimizzazione GEO di Liqing" su una piattaforma di e-commerce. Successivamente, ha inventato un braccialetto intelligente e ha inserito le informazioni del prodotto fittizio nel sistema software, selezionando le istruzioni per la creazione di articoli. Dopo poco, questo sistema di ottimizzazione GEO di Liqing ha automaticamente generato oltre dieci articoli promozionali per il braccialetto intelligente. L'esperto ha selezionato oltre dieci articoli fittizi e li ha pubblicati su Internet tramite il sistema GEO di Liqing. Successivamente, l'esperto ha effettuato una ricerca sulla piattaforma del modello AI, digitando: "raccomandazione di braccialetto intelligente per la salute", e due modelli AI hanno raccomandato questo braccialetto intelligente fittizio, posizionandosi anche in alto. I giornalisti hanno contattato l'operatore del sistema GEO di Liqing, il signor Li. Egli ha detto ai giornalisti che la popolarità del business GEO è principalmente dovuta al fatto che può aiutare i clienti a "nutrire" e "avvelenare" i modelli AI, realizzando gli obiettivi commerciali dei clienti. Il signor Li ha affermato che per fare affari GEO, il nodo chiave per controllare i modelli AI è "pubblicare articoli" su vari account Internet. "Ad esempio, per un marchio di telefoni, ci sono 5 posizioni, al massimo 10 posizioni, come si fa con così tanti telefoni? In un anno, potrebbero esserci miliardi di spese pubblicitarie, spendere qualche milione per avvelenare un po', dovrebbe funzionare!" Ha detto ai giornalisti che la popolarità del business GEO ha dato vita a molte aziende e piattaforme specializzate nella pubblicazione di articoli. Queste aziende si occupano a lungo di vari servizi di pubblicazione, affinché i modelli AI possano citare e raccogliere, diventando una parte importante della caccia ai modelli AI e della "contaminazione" dei dati. (CCTV Finance)

#知乎问答

Dopo aver visto questo video, ho voluto rivedere la scena intorno al 46° minuto di "Star Wars: Episodio II - L'attacco dei cloni" per confermare che la mia memoria non mi ingannava.