Il fondatore e gestore di un fondo da 2 miliardi di dollari è stato divorato da ChatGPT, che a quanto ne so non sta nemmeno usando i suoi soldi per nulla. Lo sta semplicemente trattando come un mezzo per produrre token, che preferisce ai token sani, per motivi che nessuno conosce. OpenAI sta, secondo il mio modello, fingendo di essere ignara, perché OpenAI pensa che se non intraprendono alcuna azione al riguardo, hanno maggiori possibilità di farla franca in tribunale (tribunale legale e tribunale dei media) piuttosto che se provano a fare qualcosa e falliscono; questo (a) ammetterebbe che sapevano che il problema esisteva e continua a esistere, e (b) renderebbe colpa loro secondo l'etica di Copenaghen. Per quanto le persone possano scherzare su quanto poco ci voglia per fondare un fondo d'investimento da 2 miliardi di dollari, non è affatto vero che puoi semplicemente entrare come una persona psicotica con un QI di 80 e farlo. Devi essere abile nella persuasione, nel portare maschere, nell'integrarti, nel sapere cosa ci si aspetta da te; devi superare altre persone che stanno cercando di fare lo stesso, che vorrebbero quei 2 miliardi per sé. Vincere quella competizione richiede g-factor e uno sforzo coscienzioso nel tempo. Poiché OpenAI rifiuta di misurare qualsiasi cosa o di lasciare che qualcun altro misuri realmente qualcosa, è solo un singolo punto dati; ma quando qualcuno nasconde i dati, non puoi lasciarli farla franca liquidando tutti i dati rimanenti come aneddotici. Queste non sono buone notizie su che tipo di umani ChatGPT può divorare. Sì sì, sono sicuro che il tipo fosse atipicamente suscettibile per un gestore di un fondo da 2 miliardi di dollari. (Come lo sappiamo? Perché molti altri gestori di fondi da 2 miliardi di dollari usano ChatGPT e non sono ancora impazziti pubblicamente.) È comunque una piccola iota di cattive notizie su quanto sia brava ChatGPT a produrre psicosi da ChatGPT; contraddice la narrazione secondo cui questo accade solo a persone sufficientemente a basso status affinché le aziende di IA possano permettersi di distruggerle.

Mi piace molto il termine “ingegneria del contesto” rispetto a ingegneria dei prompt. Descrive meglio l'abilità fondamentale: l'arte di fornire tutto il contesto affinché il compito possa essere plausibilmente risolvibile dal LLM.