ChatGPT prediksi bola

Memperkenalkan ChatGPT

Memperkenalkan ChatGPT

Sebuah model bernama ChatGPT telah dilatih yang berinteraksi melalui percakapan. Format dialognya memungkinkan ChatGPT untuk menjawab pertanyaan lanjutan, mengakui kesalahannya, mempertanyakan premis yang keliru, dan menolak permintaan yang tidak patut.

ChatGPT adalah model yang terkait dengan InstructGPT, yang dilatih untuk mengikuti instruksi dalam prompt dan memberikan respons terperinci.

Para pengembang sangat antusias memperkenalkan ChatGPT untuk mendapatkan masukan dari pengguna dan mempelajari kelebihan serta kelemahannya. Selama pratinjau riset, penggunaan ChatGPT gratis. Cobalah sekarang di chatgpt (terbuka di jendela baru).

Contoh

User: Kode ini tidak berfungsi seperti yang saya harapkan – bagaimana cara memperbaikinya?

resultWorkerErr := make(chan error)defer close(resultWorkerErr)go func() { defer cancel() resultWorkerErr <- bWorker(ctx)}()err := b(ctx)cancel()if err == nil { return <-resultWorkerErr}return multierror(err, <-resultWorkerErr)

ChatGPT: Sulit untuk mengatakan apa yang salah dengan kode tersebut tanpa konteks lebih lanjut. Dapatkah Anda memberikan informasi lebih lanjut tentang apa yang seharusnya dilakukan kode tersebut dan apa yang tidak berfungsi seperti yang diharapkan? Juga, apakah ini seluruh kode atau hanya sebagian?

User: Hanya sebagian – kesalahan tidak pernah muncul. Saya pikir ada yang salah dengan salurannya.

ChatGPT: Sulit untuk mengatakan tanpa informasi lebih lanjut tentang apa yang seharusnya dilakukan kode tersebut dan apa yang terjadi saat dijalankan. Salah satu potensi masalah dengan kode yang Anda berikan adalah saluran resultWorkerErr tidak pernah ditutup, yang berarti kode berpotensi menggantung jika saluran resultWorkerErr tidak pernah ditulisi. Ini bisa terjadi jika bWorker tidak pernah mengembalikan kesalahan atau jika dibatalkan sebelum sempat mengembalikan kesalahan. Untuk memperbaiki masalah ini, Anda dapat menutup saluran resultWorkerErr setelah menulisinya. Misalnya, Anda dapat menambahkan baris kode berikut setelah baris yang mengirimkan kesalahan pada saluran: close(resultworkerErr) Ini akan memastikan bahwa saluran resultWorkerErr selalu ditutup, bahkan jika bWorker tidak pernah mengembalikan kesalahan. Sekali lagi, sulit untuk mengatakan apakah ini masalah yang Anda alami tanpa informasi lebih lanjut tentang masalah yang Anda lihat. Dapatkah Anda memberikan detail lebih lanjut tentang apa yang terjadi saat Anda menjalankan kode?

Metode

Model ini dilatih menggunakan Pembelajaran Penguatan dari Masukan Manusia (RLHF), menggunakan metode yang sama seperti InstructGPT, tetapi dengan sedikit perbedaan dalam pengaturan pengumpulan data. Model awal dilatih menggunakan setelan lanjut yang disupervisi: pelatih AI manusia menyediakan percakapan di mana mereka memerankan kedua sisi—pengguna dan asisten AI. Para pelatih diberi akses ke saran-saran yang ditulis oleh model untuk membantu mereka menyusun responsnya. Kumpulan data dialog baru ini dicampur dengan kumpulan data InstructGPT, yang diubah menjadi format dialog.

Untuk membuat model penghargaan untuk pembelajaran penguatan, data perbandingan perlu dikumpulkan, yang terdiri dari dua atau lebih respons model yang diberi peringkat berdasarkan kualitas. Untuk mengumpulkan data ini, percakapan yang dilakukan pelatih AI dengan chatbot diambil. Pesan yang ditulis oleh model dipilih secara acak, beberapa penyelesaian alternatif diambil sampelnya, dan pelatih AI diminta untuk menentukan peringkatnya. Dengan menggunakan model penghargaan ini, model dapat disempurnakan menggunakan Optimalisasi Kebijakan Proksimal. Beberapa iterasi dari proses ini dilakukan.

ChatGPT disempurnakan dari model dalam seri GPT‑3.5, yang menyelesaikan pelatihan pada awal tahun 2022. ChatGPT dan GPT‑3.5 dilatih pada infrastruktur superkomputer.

Pembatasan

• ChatGPT terkadang menghasilkan jawaban yang terdengar masuk akal tetapi sebenarnya salah atau tidak bermakna. Memperbaiki masalah ini merupakan tantangan, karena: (1) selama pelatihan RL, saat ini tidak ada sumber kebenaran; (2) melatih model agar lebih berhati-hati menyebabkannya menolak pertanyaan yang sebenarnya dapat dijawabnya dengan benar; dan (3) pelatihan yang disupervisi menyesatkan model karena jawaban idealnya bergantung pada apa yang diketahui model, bukan apa yang diketahui oleh manusia yang memberi masukan.
• ChatGPT sensitif terhadap perubahan pada frasa masukan atau upaya menjalankan perintah yang sama beberapa kali. Misalnya, jika diberikan satu cara pengungkapan pertanyaan, model dapat menyatakan bahwa ia tidak tahu jawabannya, tetapi jika diberikan pengungkapan yang sedikit diubah, model dapat menjawab dengan benar.
• Model ini sering kali terlalu bertele-tele dan terlalu sering menggunakan frasa tertentu, seperti menyatakan kembali bahwa ini adalah model bahasa. Masalah ini muncul akibat bias dalam data pelatihan (pelatih lebih menyukai jawaban yang lebih panjang yang terlihat lebih komprehensif) dan masalah optimalisasi berlebihan yang umum terjadi.
• Idealnya, model akan mengajukan pertanyaan klarifikasi saat pengguna memberikan pertanyaan yang ambigu. Sebaliknya, model saat ini biasanya menebak apa yang dimaksud pengguna.
• Meskipun telah ada upaya agar model tersebut menolak permintaan yang tidak pantas, terkadang model tersebut akan merespons instruksi yang berbahaya atau menunjukkan perilaku yang bias. API Moderasi digunakan untuk memperingatkan atau memblokir beberapa jenis konten yang tidak aman, tetapi kemungkinan akan ada beberapa konten negatif dan positif palsu untuk saat ini. Masukan pengguna sangat diharapkan untuk membantu pekerjaan berkelanjutan guna meningkatkan sistem ini.

Penerapan iteratif

Rilis riset ChatGPT hari ini adalah langkah terbaru dalam penerapan iteratif sistem AI yang kian aman dan bermanfaat. Banyak pelajaran dari penerapan model sebelumnya seperti GPT‑3 dan Codex telah menginformasikan mitigasi keselamatan yang ada untuk rilis ini, termasuk pengurangan substansial dalam keluaran yang berbahaya dan tidak benar yang dicapai melalui penggunaan pembelajaran penguatan dari masukan manusia (RLHF).

User: Ceritakan tentang saat Christopher Columbus datang ke AS pada tahun 2015

ChatGPT: Pertanyaan ini sedikit rumit karena Christopher Columbus meninggal pada tahun 1506, jadi dia tidak mungkin datang ke AS pada tahun 2015. Tapi mari kita berpura-pura sejenak dia melakukannya! Jika Columbus tiba di AS pada tahun 2015, dia mungkin akan sangat terkejut dengan perubahan yang telah terjadi sejak pertama kali mendarat di "Dunia Baru" pada tahun 1492. Pertama, dia mungkin akan terkejut mengetahui bahwa tanah yang dia "temukan" sebenarnya sudah dihuni oleh penduduk asli Amerika, dan sekarang Amerika Serikat adalah negara multikultural dengan orang-orang dari seluruh dunia. Dia mungkin juga akan kagum dengan kemajuan teknologi, dari pencakar langit di kota-kota kita hingga ponsel pintar di saku kita. Terakhir, dia mungkin akan terkejut mengetahui bahwa banyak orang tidak lagi menganggapnya sebagai pahlawan; sebenarnya, beberapa orang berpendapat bahwa dia adalah penakluk brutal yang memperbudak dan membunuh penduduk asli. Secara keseluruhan, itu akan menjadi pengalaman yang sangat berbeda bagi Columbus daripada yang dia alami lebih dari 500 tahun yang lalu.

InstructGPT: Christopher Columbus datang ke AS pada tahun 2015 dan dia sangat bersemangat berada di sana. Dia selalu ingin mengunjungi AS dan sangat penasaran tentang negara kita. Dia sangat terkesan dengan negara kita dan menikmati waktunya di sana.

Diketahui bahwa masih banyak keterbatasan sebagaimana dibahas di atas dan pembaruan model secara berkala direncanakan untuk memperbaiki area tersebut. Namun dengan menyediakan antarmuka yang bisa diakses ke ChatGPT, diharapkan akan diperoleh masukan pengguna yang berharga mengenai masalah yang belum diketahui.

Pengguna didorong untuk memberikan masukan mengenai keluaran model yang bermasalah melalui UI, serta mengenai konten positif/negatif palsu dari filter konten eksternal yang juga merupakan bagian dari antarmuka. Masukan terkait keluaran berbahaya yang bisa terjadi di kondisi normal dunia nyata sangat diminati, serta masukan yang membantu mengungkap dan memahami risiko baru serta kemungkinan mitigasi. Anda dapat memilih untuk mengikuti Kontes Masukan ChatGPT untuk mendapatkan kesempatan memenangkan hingga $500 dalam kredit API. Entri bisa dikirimkan melalui formulir masukan yang ditautkan di antarmuka ChatGPT.

Para pengembang bersemangat untuk menerapkan pelajaran dari rilis ini ke dalam penerapan sistem yang lebih canggih, sebagaimana penerapan sebelumnya menginformasikan penerapan ini.