AI Bot Search

Obrolan GPT memungkinkan Anda mengobrol dengan Transformer Pra-Terlatih Generatif

Chat Generative Pre-Trained Transformer, biasa disebut ChatGPT, adalah chatbot yang diluncurkan oleh OpenAI pada November 2022. Ini dibangun di atas rangkaian model bahasa besar GPT-3 OpenAI, dan disesuaikan (pendekatan untuk mentransfer pembelajaran) dengan baik teknik pembelajaran yang diawasi dan penguatan.

ChatGPT diluncurkan sebagai prototipe pada tanggal 30 November 2022, dan dengan cepat menarik perhatian karena responsnya yang terperinci dan mengartikulasikan jawaban di banyak domain pengetahuan. Akurasi faktualnya yang tidak merata diidentifikasi sebagai kelemahan yang signifikan. Setelah ChatGPT dirilis, OpenAI bernilai $29 miliar

Pelatihan

ChatGPT disempurnakan di atas GPT-3.5 menggunakan pembelajaran terawasi serta pembelajaran penguatan. Kedua pendekatan tersebut menggunakan pelatih manusia untuk meningkatkan kinerja model. Dalam kasus pembelajaran terawasi, model dilengkapi dengan percakapan di mana pelatih bermain di kedua sisi: pengguna dan asisten AI. Pada langkah penguatan, pelatih manusia pertama-tama mengurutkan respons yang telah dibuat model dalam percakapan sebelumnya. Pemeringkatan ini digunakan untuk membuat 'model penghargaan' yang kemudian disempurnakan dengan menggunakan beberapa iterasi Proximal Policy Optimization (PPO). Algoritma Pengoptimalan Kebijakan Proksimal menghadirkan manfaat hemat biaya untuk memercayai algoritme pengoptimalan kebijakan wilayah; mereka meniadakan banyak operasi komputasi yang mahal dengan kinerja yang lebih cepat. Model dilatih bekerja sama dengan Microsoft pada infrastruktur superkomputer Azure mereka.

Selain itu, OpenAI terus mengumpulkan data dari pengguna ChatGPT yang dapat digunakan untuk melatih dan menyempurnakan ChatGPT lebih lanjut. Pengguna diizinkan untuk menaikkan atau menurunkan tanggapan yang mereka terima dari ChatGPT; setelah upvoting atau downvoting, mereka juga dapat mengisi kolom teks dengan umpan balik tambahan.