Problem sycophantycznego LLM jest naprawdę poważny. Już nie ufam żadnej domyślnej odpowiedzi od LLM i prawie zawsze podążam za pierwszą odpowiedzią czymś w stylu: „czy jesteś pewny?” Zazwyczaj muszę przeprowadzić coś w tym stylu 2-3 razy, zanim uzyskam informacje, które uważam za w miarę dokładne. Nie mogę sobie nawet wyobrazić, ile problemów to powoduje dla zwykłych ludzi, którzy dopiero odkrywają AI i są przekonani, że to magia.