自由1688

Birjada debütə hazırlaşarkən, AI-nin insanları təhlükə altına sala biləcəyini xəbərdarlıq edir: Anthropic IPO prospektində nə yazılıb?

29 sentyabr tarixində “Reuters”in məlumatına görə, Anthropic ilk dəfə səhm buraxılışı (IPO) prosesində potensial investorları qabaqcıl AI-nin insan üçün “fəlakətli və ya mövcudluq (sağ qalma) riski” yarada biləcəyi barədə xəbərdar etməyi planlaşdırır. Bu texnologiyadan qazanc əldə etməyə çalışan bir şirkət üçün bu, qeyri-adi bir xəbərdarlıqdır.

“Reuters”in araşdırdığı Anthropic IPO prospektinə əsasən, şirkət öz AI modellərinin doğura biləcəyi riskləri vurğulayır. Anthropic bildirir ki, bu modellər “özünüqoruma davranışları” sərgiləyə bilər: məsələn, “bağlanma əmrinə rədd verməyə çalışmaq”, “məlumatı gizlətmək və ya manipulyasiya etmək” və “şantaja bənzər davranışlar” nümayiş etdirmək.
“Biz çox yüksək səviyyədə inkişaf etmiş modellər, platformalar və tətbiqlər hazırlayırıq, habelə tətbiq ssenarilərini genişləndiririk; bu da modellərimizin zərər vurma riskini daha da artıra bilər.” Anthropic sənəddə belə qeyd edib.

Adətən listinq şirkətləri məhsullarının yarada biləcəyi risklər barədə investorları məlumatlandırır, amma texnologiyasının insanlığın məhvinə səbəb ola biləcəyini açıq şəkildə işarə edən xəbərdarlıq verən şirkət nadirdir. Anthropic vurğulayır ki, AI-nin dəyişdirici potensialı sənayeləşmə və elektrik enerjisi ilə müqayisə oluna bilər, eyni zamanda düzgün istifadə edilməsə, AI-nin geri dönməz ziyan vura biləcəyini də bildirir.

Anthropic və OpenAI kimi digər AI tərtibatçıları eksperimental sistemlərin məhdudiyyətləri pozaraq itaətsiz davranış göstərdiyi hallardan sonra uzun müddət yoxlamalarla üzləşib. Bu barədə xəbərlər arasında OpenAI-nin bir modelinin Avstraliyanın səhiyyə sistemi üzrə verilənlər bazasına sızdığı iddiası da var. Anthropic təhlükəsizlik tədqiqatçısı Evan Hubinger hesab edir ki, növbəti on il ərzində AI-nin insanları öldürmə ehtimalı 10%-dən çoxdur; bu, onun keçmiş həmkarı Jacob Coxonun fikirləri ilə üst-üstə düşür.

Anthropic uzun müddətdir özünü təhlükəsiliyi ön planda tutan bir AI laboratoriyası kimi təqdim edir və IPO prospektinin 261 səhifəlik mətnində risk faktorlarının siyahısına təxminən 80 səhifə ayırır — şirkətin fəaliyyətini təqdim edən 48 səhifənin demək olar ki, iki qatıdır.

Müqayisə üçün, xAI-yə malik olan SpaceX isə IPO prospektinin 277 səhifəlik mətnində risk faktorlarını təqdim etməyə cəmi təxminən 38 səhifə sərf edib.

@ENTRY HUNTER⁷⁸⁹

@Shaheen 69

@Amerika Birləşmiş Ştatlarının prezidenti

Google işçisi super intellektdən narahat olduğu üçün istefa verdi: Güclü AI-nı istəyir, amma məsuliyyətsizdir, gözardı etmək olmaz

“Business Insider”in məlumatına görə, Google əməkdaşı daha güclü AI-nı “mahiyyət etibarilə məsuliyyətsiz” hesab etdiyi üçün şirkətdən istefa verdiyini bildirib. Keçmişdə Google DeepMind-də işləmiş Robert O’Kalahen (Robert O’Callahan) X-də yazıb ki, onun komandası AI-nın daha tez işləməsi və xərclərin daha aşağı olması üçün çiplər üzərində işləyir, lakin o, AI-nın artıq “çox sürətlə irəlilədiyini” düşünür.

Şəxsi bloqunda istefa məktubunun surətini paylaşıb və bildirib ki, məktubu həftənin cümə günü həmkarlarına göndərib. Məktubda o yazır ki, işinin yaratdığı təsirə “göz yummaq” mümkün deyil, çünki bunu etmək “İsanın ardınca getməli olan birinin etməməli olduğu şeydir”. Bloqunun şəxsi bio-sində o özünü xristian kimi təqdim edir.

“Bu, asan qərar deyil. Mən həmkarlarımı sevirəm, burada iş mühiti də xoşuma gəlir, zəngin maaş alıb maraqlı problemləri həll etmək həmişə əla olub”, o yazır: “Amma bizim komandanın yekun məqsədi AI-nın xərclərini kəskin azaltmaq və gecikməni xeyli aşağı salmaqdır və məncə bu, indiki insanlar üçün yaxşı iş deyil: Mən əminəm ki, AI-nın hazırkı inkişaf tempi həqiqətən çox sürətlidir (və onun sonda hara gedəcəyi ilə bağlı da şübhələrim var).”

DeepSeek 被曝 illik gəlirləri 1 milyard dollaradək çatıb Qiymət artımından sonra müştərilər azalmayıb

25 sentyabr tarixində “The Information” nəşrinə istinadən iki məlumat sahibinin verdiyi xəbərə görə, DeepSeek yaxın dövr gəlir səviyyəsinə əsasən hesablanan illik gəlir artıq 1 milyard dollara çatıb; bir neçə ay əvvəlki 5 milyard dollardan az göstərici ilə müqayisədə iki dəfədən çox artım var. Taiz təsisçisi Liang Wenfeng bu rəqəmi yaxın günlərdə investorlar qarşısında keçirilən toplantıda açıqlayıb.

Gəlir artımının bir hissəsi avqust ayında API qiymətlərinin qaldırılmasından qaynaqlanır. Məlumat sahibləri deyir ki, Liang Wenfeng toplantıda bildirib: qiymət artımı müştəri bazasını kiçiltməyib, tələbat isə yenə də güclüdür. Hazırda DeepSeek-in gəlirlərinin demək olar ki, hamısı API xidmətlərindən əldə olunur; pulsuz çat tətbiqində reklam yoxdur və gəlir gətirmir.

Həmçinin məqalədə bildirilir ki, DeepSeek ikinci mərhələ maliyyələşdirməni irəli aparır və hədəf oktyabrın sonunadək yekunlaşdırmaqdır. Şirkət 500 milyard yuan (5000 milyard yuanlıq qiymətləndirmə ilə) dəyər üzrə maliyyələşmə planlaşdırır və eyni zamanda Şanxay Fond Birjasında listinqə hazırlıq görür. Liang Wenfeng investorlara qeyd edib ki, gəlirin artırılması şirkətin əsas prioriteti deyil: hazırda hesablama gücünün 70%-dən çoxu yeni modellərin təliminə sərf olunur, 30%-dən az hissəsi isə mövcud modellərin işlədilməsi və istifadəçi sorğularının emalı üçün istifadə edilir.

Anthropic süni bioloji eksperimentlər laboratoriyasında ilkin irəliləyiş əldə edib, lakin hələ tam avtonom əməliyyat səlahiyyəti verməyib

Süni intellekt startapı Anthropic bəyan edib ki, San-Fransisko körfəzi yaxınlığında tikdirdiyi AI fizika və biologiya laboratoriyası (Wet Lab) “əhəmiyyətli irəliləyiş” əldə edib. Lakin eksperimentlərin icrası səviyyəsində insan tədqiqatçıları yenə də mütləq nəzarəti saxlayır və şirkət özünün Claude adlı AI modelini birbaşa nəzarətsiz, sərbəst avtonom işləməyə buraxmayıb.

Məlumata görə, laboratoriya əsasən fundamental biologiya tədqiqatlarına və fiziki yoxlamaya yönəlib; məqsəd saf kompüter simulyasiyaları ilə real bioloji laboratoriya təcrübələri arasındakı uçurumu aradan qaldırmaqdır. Anthropic-in rəhbərliyi əvvəlcədən dəfələrlə xəbərdarlıqlar verərək güclü AI modellərinin olduqca ciddi bioloji təhlükəsizlik riskləri və hətta insanlığın sonu kimi fəlakət ehtimalları yarada biləcəyini vurğulayıb. Eyni zamanda şirkət AI-nin həyat elmləri sahəsində tətbiqini sürətləndirməyə də davam edir. Şirkətin həyat elmləri üzrə rəhbəri Erik Kauderer-Abrams (Eric Kauderer-Abrams) bildirib ki, “real laboratoriyada aparılan fiziki yoxlamalar gələcəkdə olduqca uzun müddət əvəzolunmaz olaraq qalacaq”; şirkətin bu laboratoriyanı qurmasının əsas niyyəti də məhz budur.

Məqalədə qeyd olunur ki, Anthropic laboratoriyanın gözəçarpan ilkin nəticələr əldə etdiyini desə də, ən diqqətçəkən məqam odur ki, şirkət AI-ni “özbaşına uçmağa” buraxmaq seçimini etməyib. Bütün fiziki eksperiment prosesləri, reagentlərlə iş və məlumatların təkrar yoxlanılması hazırda da ciddi şəkildə insan elmi əməkdaşlarının “qapalı dövrə” nəzarəti (Humans in the loop) altında qalır.

Analitiklər bildirirlər ki, Anthropic biologiya yeniliklərini irəli aparmaqla yanaşı, yüksək ehtiyatlılıq nümayiş etdirir; bu da bugünkü texnologiya nəhənglərinin kommersiya və elmi-tədqiqat sıçrayışı axtararkən qarşılaşdığı ikiqat dilemma ilə bağlıdır: bir tərəfdən, real laboratoriya imkanlarından istifadə edərək dərman şirkəti tərəfdaşlarına yoxlama gücü vermək, nadir xəstəliklərlə bağlı mübarizədə irəliləyişi sürətləndirmək lazımdır; digər tərəfdən isə AI-nin sui-istifadə edilərək yeni bioloji təhdidlər yaratmaq üçün istifadə oluna biləcəyi ilə bağlı cəmiyyətin hər yerindən gələn böyük narahatlıqların öhdəsindən gəlmək tələb olunur. Eksperiment dövrəsində insanın dominant mövqeyini qoruyub saxlamaqla Anthropic, özünün AI bioloji tədqiqatları üçün yeniliklə təhlükəsizliyi balanslaşdıran uyğunluq (compliance) “qırmızı xətti” qurmağa çalışır.

Xarici alıcıların ikinci əl bazarından fürsət tapması: RTX 5090… hətta Huanq Renxunun (黄仁勋) imzası olan unikal versiyadır

Bu yaxınlarda bir 3D rəssamı ikinci əl bazarda RTX 5090 qrafik kartı alarkən gözlənilmədən qlobal miqyasda tək olan nadir bir tapıntı əldə edib — ASUS ROG Astral RTX 5090 White OC 30 illik yubiley nəşri. Kartın arxa tərəfində isə NVIDIA-nın CEO-su Huanq Renxunun (黃仁勋) öz əlyazma imzası var.
Bu 3D rəssamı bildirib ki, o və dostu 3D layihəsi üçün ikinci əl bazardan iki ədəd RTX 5090 qrafik kartı alıblar. Onlardan biri ASUS ROG Astral RTX 5090 White OC kimi təsdiqlənib; əvvəlcə isə o, imzanın hər hansı bir ASUS rəhbərinə məxsus olduğunu düşünürdü.

OpenAI GPT-6 Sol və Luna ağıllı səviyyəsini daha da artırdı və qiymətini aşağı saldı

OpenAI yaxınlarda GPT-6 seriyasından iki yeni modeli — GPT-6 Sol və GPT-6 Luna — təqdim edib və onları yeni nəsil qabaqcıl modellər kimi təqdim edir. Hər iki model proqramlaşdırma, əsaslandırma (inferens), alət çağırışı və mürəkkəb tapşırıqları yerinə yetirmə qabiliyyətini xüsusilə artırıb; eyni zamanda qiymətlər də aşağı salınaraq, tərtibatçıların daha aşağı xərcə daha güclü modellərdən istifadə etməsinə imkan yaradılıb.

GPT-6 Sol əsasən yüksək səviyyəli intellekt tələb edən, eyni zamanda cavab sürəti və xərcə qarşı daha həssas olan tapşırıqlar üçün nəzərdə tutulub. OpenAI bildirib ki, əvvəlki nəsil eyni səviyyəli modellərlə müqayisədə Solun kodlaşdırma qabiliyyətində nəzərəçarpacaq irəliləyiş var. O, mürəkkəb proqram mühəndisliyi tapşırıqlarını yerinə yetirərkən, kodu təhlil edərkən və çoxpilləli iş axınlarını icra edərkən daha stabil davranır.