Seorang remaja di Amerika Serikat mulai menerbitkan perangkat lunak pada usia 14 tahun pada tahun 1998 dan membangun seluruh infrastruktur online untuk gerakan Pendudukan Wall Street pada tahun 2011, bergabung dengan Google sebagai insinyur perangkat lunak, berhenti pada tahun 2018, dan kemudian menghabiskan lima tahun menulis perpustakaan C (C library) yang melakukan sesuatu di seluruh industri Katanya tidak mungkin.
Kemudian dia menggabungkannya dengan llama.cpp dan mengirimkan cara termudah di planet ini untuk menjalankan model bahasa besar di komputer mana pun.
Namanya Justine Tunney.
Inilah ceritanya, karena hampir tidak seorang pun di luar dunia sistem tingkat rendah yang tahu apa yang telah dibangun oleh seorang insinyur.
Justine lahir pada tahun 1984. Dia mulai menulis dan menerbitkan perangkat lunak pada usia 14, kembali ketika distribusi berarti meng-upload binary ke sistem BBS dan jaringan obrolan, Dia mengambil gagang jart, yang masih dia gunakan di Github hari ini. Dia melakukan pekerjaan yang tidak dilakukan oleh kebanyakan remaja seusianya, dia membaca literatur pemrograman sistem, dia mempelajari kompiler dia jatuh cinta dengan C.
Pada bulan Juli 2011 ia mendaftarkan domain occupywallst dot org. Dalam beberapa minggu gerakan protes yang dimulai di Taman Zuccotti di New York telah menjadi fenomena global, dan infrastrukturnya adalah tulang punggung digital dari semuanya, Dia menangani media sosial, situs web, donasi, koordinasi. Dia membangun platform yang mendorong gerakan mencapai jutaan.
Setelah Menduduki, ia bergabung dengan Google sebagai insinyur perangkat lunak, ia bekerja di TensorBoard, alat visualisasi untuk TensorFlow, dan pada kehandalan situs untuk infrastruktur Google,
Dia tinggal selama bertahun-tahun,
Kemudian pada 2018 ia meninggalkan Google Brain untuk mengerjakan proyek pribadi.
Proyek ini bernama Cosmopolitan Libc.
Cosmopolitan melakukan sesuatu yang dikatakan oleh sebagian besar pemrogram C kepada Anda secara matematika tidak mungkin, Ini memungkinkan Anda mengkompilasi program C sekali dan menghasilkan binary yang dijalankan secara asli di Linux, Windows, MacOS, FreeBSD, OpenBSD, dan NetBSD tanpa modifikasi. Satu file, enam sistem operasi, tidak ada mesin virtual, tidak ada interpreter, tidak ada rekompilasi. Teknik yang dia ciptakan disebut Sebenarnya Portable Executable.
Implikasinya liar, binary Cosmopolitan melanggar setiap asumsi tentang bagaimana sistem operasi memuat program, Mereka sekaligus merupakan file Windows PE, binary Linux ELF, binary MacOS Mach-O, dan shell script.
Bita yang sama berjalan di setiap platform.
Selama lima tahun dia mengerjakannya sebagian besar sendirian. Dia mendanai pengembangan sebagian melalui program MIECO dari Mozilla, yang mensponsori pekerjaannya di Cosmopolitan 3.0, dirilis pada 31 Oktober 2023.
Sebulan kemudian dia mengirim llamafile.
llamafile adalah apa yang terjadi ketika Anda menggabungkan Cosmopolitan dengan llama.cpp. Anda mengambil file pemberat LLM dalam format GGUF standar, Anda membungkusnya dalam binary Justine, dan Anda mendapatkan satu file yang berjalan pada enam sistem operasi tanpa instalasi. Tidak ada Python. Tidak ada pengaturan CUDA. Tidak ada ketergantungan neraka. Hanya satu file yang Anda klik dua kali dan berfungsi.
Mozilla meluncurkannya sebagai proyek resmi grup inovasi mereka pada 29 November 2023. Langsung viral.
Repositori, dihosting di github. com/mozilla-ai/llamafile, sekarang memiliki 24.600 bintang. SIM-nya adalah apache 2.0.
Justine terus mengirimkan. Dia menambahkan dukungan GPU ke Cosmopolitan, seorang insinyur sistem tugas berpikir akan memerlukan penulisan ulang semuanya. Dia menambahkan dukungan dlopen, hal lain yang tidak diketahui orang lain.
Dia menulis Whisperfile, versi file tunggal dari model pidato ke teks Whisper OpenAI berdasarkan arsitektur yang sama.
Profilnya di Github daftar proyek yang dianggap mustahil oleh sebagian besar insinyur. sektorlisp, seorang juru bahasa Lisp yang cocok di sektor boot. blink, emulator x86-64-linux terkecil di Bumi. bestline, perpustakaan sesi perintah teletypewriter. redbean, server web lengkap dalam satu file zip.
Seorang remaja yang mengirim perangkat lunak pada tahun 1998 tumbuh untuk menulis perpustakaan C yang seluruh gerakan AI lokal sekarang berjalan di atas.
Dia melakukan sebagian besar sendirian, dan sebagian besar orang di Ai tidak tahu namanya.
Tidak ada komentar:
Posting Komentar