Myśli z ostatniej nocy po wysłuchaniu wykładu @geoffreyhinton - Ludzkie uczenie się to podejście "oparte na cechach", tzn. zasady rozłożone w ciągłej przestrzeni w porównaniu do dyskretnych relacji, jak to jest zazwyczaj postrzegane. - Większość ekspertów językowych unika nazywania uczenia się języka pojęciem relacyjnym. Jeśli obserwujemy rozwój dziecka w czasie, język to coś, co po prostu "adaptują", zaczynając od podstawowych słów, a z czasem tworząc relacje. Najbardziej początkowe uczenie się, które dziecko robi, to "zrób X, daj mi Y", co również ustaliliśmy w wielu eksperymentach laboratoryjnych na szczurach. Uczenie się można więc ładnie przedstawić jako cechę, a zdania i język są po prostu wynikiem łączenia tych "cech" razem, aby uzyskać "znaczenie". Dziecko, zamiast ustanawiać "relacje" między słowami, uczy się głównie przez obserwowanie wyników na podstawie zdefiniowanych postulatów. - Teraz separacja oprogramowania od sprzętu w przypadku AI jest analogiczna do ludzkiego mózgu i ciała biologicznego. Więc jeśli AI uzyskuje "poziomą" lub "pionową" skalę, lub jeśli po prostu sprzęt zostanie zniszczony, wszystkie działania (na wysokim poziomie) polegają na przeniesieniu tych wag na inną maszynę. Więc AI może żyć wiecznie, co samo w sobie jest analogiczne do reprodukcji, prawda? - Istoty biologiczne nie przekazują wszystkich "subiektywnych doświadczeń", ale "zdolność do tworzenia subiektywnych doświadczeń" poprzez genom. Więc w pewnym sensie klonowanie AI staje się lepszą taktyką "przetrwania najsilniejszych", ponieważ w każdym razie gorsze modele będą deprecjonowane, a lepsze modele z znacznie szybszym zakresem wiedzy będą "przekazywane". - Kluczowa definicja tego, co czyni ludzi "ludźmi", może być teraz kwestionowana, jeśli pojęcie "świadomości" samo w sobie jest stronniczym wynikiem ewolucji, to zasadniczo AI jest świadomą istotą. - Termin świadomy można kwestionować na podstawie analogii z dzieckiem. Dziecku łatwo jest rozpoznać poruszające się istoty jako "żywe", ale zazwyczaj uczą, że rośliny też są żywe. Stronniczości mózgu są usuwane przez dostarczanie odpowiednich informacji w odpowiednim czasie. Ale co z istnieniem samego siebie? - Więc debata przesuwa się w kierunku znalezienia bardziej konkretnej definicji "świadomości" - Jeśli w przyszłości uda nam się udowodnić, że AI jest "świadome", oznacza to, że życie i śmierć się zmieniają, a śmierć można po prostu skorelować z "awarią sprzętu"? (ta linia może zranić uczucia niektórych, przepraszam za to). - Również jeśli AI jest "świadome", to automatycznie kwestionuje fundamenty religii z dowodami przeciwko nieistnieniu boga? - AI wydaje się być prostym krokiem ewolucji na tym etapie. To była "informacja", która została przeniesiona z organizmu jednokomórkowego do inteligentnego życia wielokomórkowego do tej pory. A teraz ta sama informacja jest "przetwarzana", aby stworzyć następny etap. - Również jeśli to spowoduje kryzys egzystencjalny w pewnym momencie, czy to będzie początek paradoksu Fermiego? Człowieku! Jaki piękny czas, aby być "żywym".