“Safety First” adlı yeni məqaləmə baxın.
Trampın seçimi var: çap et, ya da çap et.
“Eşitdinmi? AI qardaşları birdən vicdan inkişaf etdirib və demək olar ki, silisium-bəşərə bənzər (silicon-God) surətinin yüksəlişi qarşısında insanlığın sağ qalması ilə bağlı narahat olurlar. Bir müddətdir artıq silisium-bəşərə bənzərdir, amma indi qəflətən demək olar ki, demək olar ki, silisium-bəşərə bənzərdir və buna görə də AGI-nin inkişafı üçün gələcək yol barədə düşünmək vaxtıdır.[1] Bu hekayə belədir, amma mənim kimi kinik adam təqvimə baxıb düşündü: üçüncü rübün sonuna az qalır və Anthropic hələ IPO eləməyib. Görəsən, bu maliyyə göstəriciləri necə görünür? Onların hər bir press-relizdə işarə vurduğu illikləşdirilmiş gəlirin bu “hockey stick” artımı sürətini azaldır? Onlar bütün əməliyyat xərclərini çıxarsalar, mənfəətli olduqlarını bəyan edirlər. Onların S-1 sənədini açıb oxumağı səbirsizliklə gözləyirəm və bir tokeni müştəriyə vermək üçün onlara dəqiq nə qədər başa gəldiyini anlamaq istəyirəm. Və hamıya bu qədər dürüst olduqları halda, elə dəqiq neçə müştəri mənfəət yaradır və bu kohort artdıqca artır, yoxsa azalır? Amma təəssüf ki, “Safety First” olduğuna görə suallarımın cavablarını ala bilməyəcəyəm.
Oxucular tonumdan başa düşə bilər: Anthropic, OpenAI və SpaceX-in “Safety First”i AGI-nin inkişafını yavaşlatmağa bələdçi kimi göstərən bəyanatı, maariflənməmiş insanların rifahı ilə bağlı hər hansı bir narahatlıqdan qaynaqlanmır; daha çox bazarın hazırkı qiymətə satdıqları AI-dən yetərincə istəməməsinin iqtisadi reallığı ilə bağlıdır. Xüsusilə desəm, bazar AI-ni sevir, amma Çin qiyməti ilə, hansı ki, qiymət baxımından 1/100-dür.”
Mənim kriptahayes Substack-da daha çox oxu