Itu semua masuk akal. Google + Anthropic berfokus pada pra-pelatihan, sehingga Anda mendapatkan jawaban yang bagus lebih cepat, tetapi batas kemampuannya lebih rendah. OpenAI berfokus pada pasca-pelatihan, jadi jawaban yang bagus membutuhkan waktu lebih lama, tetapi Anda dapat mendorong model lebih jauh.
Untuk lebih jelas (mendapatkan banyak komentar yang membingungkan), saya jelas tidak bermaksud bahwa salah satu dari perusahaan-perusahaan ini hanya berfokus pada satu hal. OAI/Anthropic/Google semua fokus pada pra-pelatihan dan pasca-pelatihan (obv ada tahapan di dalamnya, hanya menyederhanakan di sini). Tapi rasanya OAI melakukan pekerjaan pasca-pelatihan yang lebih baik sedangkan Google/Anthropic melakukan pekerjaan pra-pelatihan yang lebih baik. Semuanya saling terkait (pra-pelatihan yang lebih baik membuat pasca-pelatihan lebih mudah/meningkatkan plafon untuk pasca-pelatihan, misalnya). Ini terwujud dalam bagaimana perasaan para model untuk bekerja dengan sehari-hari.
102,87K