Fascinující článek od @ritualnet, který se zabývá otázkou ochrany osobních údajů pomocí inference LLM 3rd party rozdělením promptu mezi uzly a provedením sharded LLM inference:
612