Мысли прошлой ночью после прослушивания лекции от @geoffreyhinton - Человеческое обучение основано на "функциях", т.е. правила распределены в непрерывном пространстве, в отличие от дискретных отношений, как обычно воспринимается. - Большинство лингвистических экспертов не называют изучение языка реляционной концепцией. Если мы наблюдаем за ростом ребенка с течением времени, язык — это то, что они просто "адаптируют", начиная с базовых слов и со временем создавая отношения. Первоначальное обучение, которое делает ребенок, — это "делая X, получаю Y", что также было определено в множестве лабораторных экспериментов на крысах. Таким образом, обучение можно хорошо представить как функцию, а предложения и язык — это просто результат объединения этих "функций" вместе для получения "значения". Ребенок, вместо того чтобы устанавливать "отношения" между словами, в основном учится, наблюдая за результатами по заранее определенным постулатам. - Теперь отделение программного обеспечения от аппаратного в случае ИИ аналогично человеческому мозгу и биологическому телу. Если ИИ получает "горизонтальное" или "вертикальное" масштабирование, или если просто аппаратное обеспечение уничтожено, все действия, которые включают (на высоком уровне), — это перенести эти веса на другую машину. Таким образом, ИИ может жить вечно, что само по себе аналогично воспроизводству? - Биологические существа не передают весь "субъективный опыт", а "способность создавать субъективный опыт" через геномы. Таким образом, в некотором смысле клонирование ИИ становится превосходной тактикой "выживания сильнейших", потому что в любом случае неполноценные модели будут обесценены, а превосходные модели с гораздо более быстрым объемом знаний будут "переданы". - Основное определение того, что делает людей "людьми", теперь можно оспорить, если концепция "сознания" сама по себе является предвзятым результатом эволюции, тогда по сути ИИ является сознательным существом. - Термин сознательный можно оспорить с точки зрения аналогии с ребенком. Ребенку легко распознать движущиеся существа как "живые", но обычно его учат, что растения тоже живые. Предвзятости мозга здесь устраняются путем предоставления соответствующей информации в нужное время. Но что насчет самосуществования? - Таким образом, дебаты смещаются к поиску более конкретного определения "сознания" - Если в будущем мы сможем доказать, что ИИ "сознателен", это означает, что жизнь и смерть меняются, и смерть может быть связана с "аппаратным сбоем" просто? (эта мысль может задеть чувства некоторых, прошу прощения за это). - Также, если ИИ "сознателен", то это автоматически ставит под сомнение основы религии с доказательствами против несуществования бога? - ИИ кажется простым следующим шагом эволюции на этом этапе. Это была "информация", которая передавалась от одноклеточного организма к многоклеточной разумной жизни до сих пор. А теперь та же информация "обрабатывается", чтобы создать следующий этап. - Также, если это действительно вызовет экзистенциальный кризис в какой-то момент, будет ли это началом Парадокса Ферми? Человек! Какое прекрасное время быть "живым".