OpenAI esittelee parannettuja malleja toiminnallisilla kutsuilla ja edullisella hinnoittelulla – TechCult

Johtava tekoälyn tutkimuslaboratorio OpenAI on edistynyt merkittävästi kielimalleissaan ja hinnoittelurakenteessaan. Äskettäisessä ilmoituksessa OpenAI esitteli parannettuja malleja, joissa on Function Calling -toiminto ja edullinen hinnoittelu, joiden tarkoituksena on antaa kehittäjille vaikutusmahdollisuuksia ja parantaa heidän sovellustensa ominaisuuksia.

Toimintojen kutsuminen: Yhteyden ja strukturoidun tiedonhaun parantaminen

Yksi tärkeimmistä kohokohdista on toimintokutsuominaisuuksien käyttöönotto Chat Completions API. OpenAI: n GPT-4- ja GPT-3.5 Turbo -mallit on hienosäädetty havaitsemaan, milloin toimintoja on kutsuttava, jolloin kehittäjät voivat yhdistää GPT: n ominaisuudet ulkoisiin työkaluihin ja API-liittymiin saumattomasti.

Esimerkiksi

Oletetaan, että sinulla on chatbot-sovellus, joka tarjoaa tietoa elokuvista. Toimintokutsujen avulla voit yhdistää chatbotin ulkoiseen työkaluun tai API: hen, joka hakee elokuvan tiedot käyttäjän kyselyjen perusteella. Tältä keskustelu saattaa näyttää:

Käyttäjä: Voitko kertoa uusimmasta Marvel-elokuvasta?

Chatbot: Varma! Anna minun hakea nämä tiedot sinulle.

Taustalla chatbot käyttää funktiokutsuja ulkoisen työkalun tai API: n kutsumiseen:

Toimintokutsu: get_movie_details (movie_title: merkkijono)

Ulkoinen työkalu/API käsittelee funktiokutsun ja hakee viimeisimmän Marvel-elokuvan tiedot, kuten sen nimen, julkaisupäivän, näyttelijät ja juonen. Kun tiedot on saatu, chatbot vastaa käyttäjälle:

Chatbot: Uusin Marvel-elokuva on "Spider-Man: No Way Home". Se julkaistiin 17. joulukuuta 2021, ja päärooleissa nähdään Tom Holland, Zendaya ja Benedict Cumberbatch. Elokuva seuraa Spider-Manin seikkailuja, kun hän navigoi useiden ulottuvuuksien läpi.

Hyödyntämällä toimintokutsuja, chatbot integroituu saumattomasti ulkoisten työkalujen tai API: iden kanssa, jolloin se voi hakea jäsenneltyä dataa ja tarjota tarkkoja ja ajantasaisia ​​tietoja käyttäjille.

GPT-4: Päivitetty malli toimintokutsulla

OpenAI on myös julkistanut päivitetyt versiot GPT-4 ja GPT-3.5 Turbo -malleissa. GPT-4 sisältää parannettuja toimintoja, kuten toimintokutsuja, joiden avulla kehittäjät voivat hyödyntää mallin ominaisuuksia tehokkaammin.

GPT-4-32k: laajennettu kontekstin pituus parempaan ymmärtämiseen

Lisäksi GPT-4-32k tarjoaa laajennetun kontekstin pituuden, mikä mahdollistaa suuremman tekstin paremman ymmärtämisen, mikä tekee siitä ihanteellisen sovelluksiin, jotka vaativat suuria tietomääriä.

GPT-3.5 Turbo-0613: Toimintojen kutsuminen ja parannettu ohjattavuus

Uusin iteraatio, gpt-3.5-turbo-0613, sisältää toimintokutsuominaisuudet ja tarjoaa luotettavamman ohjattavuuden järjestelmäviestin kautta. Nämä parannukset antavat kehittäjille mahdollisuuden ohjata mallin vastauksia tehokkaammin, mikä johtaa tarkempiin ja kontekstitietoisempiin vuorovaikutuksiin.

GPT-3.5 Turbo-16k: laajennettu kontekstin pituus kattavaan tekstinkäsittelyyn

Tämä versio tukee neljä kertaa normaaliversion kontekstin pituutta, joten malli pystyy käsittelemään noin 20 sivua tekstiä yhdessä pyynnössä. Vaikka gpt-3.5-turbo-16k tarjoaa laajennettuja ominaisuuksia, sen hinta on kaksinkertainen vakioversioon verrattuna, tarjoaa kehittäjille enemmän joustavuutta räätälöidä sovelluksiaan erityisvaatimusten mukaan.

75 %:n kustannusten alennus tekstin upottamisesta Ada-002

Suosittu tekstin upottaminen-ada-002 on nyt 75 % alennettu hintaan 0,0001 dollaria 1 000 merkkiä kohden. Tämä kustannusten aleneminen antaa kehittäjille mahdollisuuden hyödyntää korkealaatuisia upotuksia monenlaisiin luonnollisen kielen käsittelytehtäviin edullisemmalla hinnalla.

25 %:n kustannussäästö GPT-3.5 Turbon syöttötunnisteissa

Kehittäjät voivat nyt hyötyä 25 %:n kustannussäästöstä syöttötunnisteista, jolloin hinta laskee 0,0015 dollariin 1 000 syöttötunnisteelta ja 0,002 dollariin 1 000 tulostetunnisteelta. gpt-3.5-turbo-16k: n käyttöönotto tarjoaa laajemman kontekstin pituuden hieman korkeammalla hinnalla, 0,003 dollaria per 1 000 syöttötunnisteita ja 0,004 dollaria 1 000 tulostetunnistetta kohden, mikä tarjoaa kehittäjille enemmän joustavuutta työskennellessään suurempien kanssa tekstejä.

Julkaisemalla parannettuja malleja Function Calling -toiminnolla ja edullisella hinnoittelulla OpenAI pyrkii antamaan kehittäjille mahdollisuuden luoda entistä kehittyneempiä ja kustannustehokkaampia sovelluksia. Kehittäjäyhteisön palaute on edelleen ratkaisevan tärkeää alustan tulevaisuuden muovaamisessa, ja OpenAI katsoo innokkaasti innolla todistamassa luovia ja innovatiivisia ratkaisuja, joita kehittäjät rakentavat käyttämällä näitä uusimpia malleja ja ominaisuudet.

Lähde: OpenAI blogi