Однією з функцій, якої ці моделі не мають, але насправді повинні, є анотації до того, з якої частини латентного простору походить відповідь моделі, подібно до того, як шахові рушії будуть анотувати стани вашої дошки з якою відомою шаховою позицією або стратегією вони є частиною в просторі шахової дошки.
Eliezer Yudkowsky ⏹️
Eliezer Yudkowsky ⏹️18 лип., 03:07
Засновника та керівника фонду на $2 млрд з'їв ChatGPT, який навіть не використовує свої гроші ні на що. Це просто ставлення до нього як до засобу виробництва токенів, що він віддає перевагу розумним токенам, з причин, які ніхто не знає. OpenAI, за моєю моделлю, вдає, що не помічає, тому що OpenAI думає, що якщо вони не вживають жодних дій з цього приводу, у них більше шансів уникнути покарання в суді (юридичному суді та медіа-суді), ніж якщо вони спробують щось зробити і зазнають невдачі; це означало б, що вони (а) знали, що проблема існувала і досі існує, і (б) зробило б її своєю провиною згідно з Копенгагенською етикою. Як би людям не подобалося жартувати про те, як мало навичок потрібно, щоб заснувати інвестиційний фонд у розмірі 2 мільярдів доларів, насправді це неправда, що ви можете просто впасти в суспільство як людина з психотичним IQ 80 і зробити це. Ви повинні вміти переконувати, носити маски, вписуватися, знати, чого від вас очікують; Ви повинні перевершити інших людей, які також намагаються це зробити, які хотіли б отримати ці 2 мільярди доларів для себе. Перемога в цій конкуренції вимагає g-фактора та сумлінних зусиль протягом певного періоду. Оскільки OpenAI відмовляється вимірювати щось або дозволяти комусь іншому дійсно вимірювати щось, це лише одна точка даних; Але коли хтось приховує дані, ви не можете дозволити їм уникнути покарання, відкинувши всі дані, що залишилися, як анекдотичні. Це не дуже хороша новина про те, яких людей може їсти ChatGPT. Так-так, я впевнений, що хлопець був нетипово сприйнятливий до менеджера фонду в $2 млрд. (Звідки ми це знаємо? Тому що багато інших менеджерів фондів на $2 млрд використовують ChatGPT і ще не зійшли з розуму публічно.) Тим не менш, це невелика йота поганих новин про те, наскільки добре ChatGPT виробляє психоз ChatGPT; це суперечить наративу, де це трапляється лише з людьми з достатньо низьким статусом, щоб компаніям зі штучним інтелектом було дозволено їх зламати.
5,29K