Dari perspektif strategi pelanggan, arkitektur ini boleh digambarkan sebagai infrastruktur AI berdaulat.
Model ini bermula daripada weights sumber terbuka dan mungkin menggunakan model AI luar yang lebih maju sebagai guru ketika proses distillation dan latihan. Walau bagaimanapun, model-model luar itu adalah sumber semasa latihan, bukan kebergantungan pengeluaran.
Setelah latihan selesai, keseluruhan operasi AI dikawal sepenuhnya dalam persekitaran pelanggan sendiri.
Weights akhir model dikawal secara tempatan.
Inferens dijalankan pada infrastruktur yang dihoskan sendiri.
Data perniagaan dan pengguna kekal dalam persekitaran pelanggan.
Penyebaran, rangkaian, kawalan akses, dan sumber pengkomputeran diuruskan secara dalaman.
Akses ke persekitaran pengeluaran diasingkan melalui VPN persendirian.
Yang paling penting, sistem tidak memerlukan API AI luar untuk beroperasi ketika inferens.
Beza ini amat signifikan bagi perniagaan.
Kedaulatan tidak semestinya bermakna setiap pengetahuan, perisian, penyelidikan, atau pengaruh latihan mesti berasal dari dalam. Hampir tiada sistem teknologi moden yang dibina dalam isolasi mutlak.
Yang penting dari sudut operasi ialah siapa yang mengawal sistem selepas ia dikerahkan.
Sekiranya pembekal AI luar tidak tersedia esok, sistem pengeluaran perniagaan anda tetap berjalan.
Jika pembekal API mengubah harga, dasar, tingkah laku model, atau syarat akses, persekitaran pengeluaran anda tidak akan terjejas.
Jika data perniagaan sensitif memasuki sistem, data itu tidak perlu meninggalkan infrastruktur terkawal anda untuk tujuan inferens.
Itulah nilai sebenar kedaulatan dalam konteks perniagaan.
Dalam arkitektur AINNA, kecerdasan luar boleh membantu ketika fasa pembangunan model, tetapi ia tidak mengawal persekitaran operasi akhir.
Analoginya mudah: seorang pelajar belajar daripada guru yang berpengalaman.
Pelajar boleh mempelajari teknik daripada guru, tetapi setelah menguasai ilmu dan mampu beroperasi secara bebas, guru tidak lagi diperlukan untuk setiap keputusan.
Distillation berfungsi secara serupa.
Model-model maju boleh berperanan sebagai guru semasa pembangunan, manakala model hasilan menjadi sistem yang beroperasi secara bebas, sepenuhnya dalam infrastruktur di bawah kawalan perniagaan anda.
Oleh sebab itu, saya akan menggambarkan arkitektur ini sebagai:
Infrastruktur AI Berdaulat dengan model yang dikawal secara tempatan dan inferens yang bebas.
Tuntutan penting bukanlah bahawa AI ini dicipta tanpa sebarang pengetahuan luar.
Tuntutan penting ialah AI yang telah dikerahkan tidak bergantung kepada kawalan luar.
Ini bermakna kedaulatan wujud di tempat yang paling kritikal:
model, data, infrastruktur, inferens, akses, dan keputusan operasi kekal di bawah kawalan tempatan.
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. Nama dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
Not sure I agree with seorang pelajar belajar daripada guru, but the rest holds up.
sistem pengeluaran perniagaan anda tetap is the part I would forward to my boss.
I read this twice. bukan kebergantungan pengeluaran.Setelah is the part that stuck.
The framing around rangkaian, kawalan akses, dan sumber is better than I expected. Have a few questions left here.
Worth reading just for hampir tiada sistem teknologi moden.
Clearer than the decks I usually get on walau bagaimanapun, model-model luar itu.
data itu tidak perlu meninggalkan - that is the whole thing in one line.
I have watched tetapi ia tidak mengawal persekitaran go wrong in practice. Good to see it written down.
Honestly, kecerdasan luar boleh membantu ketika surprised me.
Bookmarked, mostly for persekitaran pengeluaran anda tidak akan.
I do not fully buy keseluruhan operasi AI dikawal sepenuhnya yet, but it is a fair argument. Worth a closer look.
Whoever wrote this actually did the work on sistem tidak memerlukan API AI.