Writer laiž klajā jaunu AI modeli un uzlabotu infrastruktūmu izmaksu samazināšanai
Uzņēmums Writer paziņojis par jaunu flagmaņa modeli Palmyra X6 un būtiskiem infrastruktūras uzlabojumiem, kas var samazināt klientu izmaksas līdz pat 50%.
Tehnoloģiju uzņēmums Writer, kas piedāvā AI rīkus un aģentus mārketinga speciālistiem, ceturtdien paziņoja par jauna flagmaņa modeļa Palmyra X6 izlaišanu. Modelis veidots kā pēcapmācības variants atvērtā koda modelim GLM-5.2 no Z.ai, un uzņēmums norāda, ka tas nodrošinās gatavus risinājumiem ieviešanai par ievērojami zemāku cenu.
Paredzams, ka jaunais modelis kopā ar izmaiņām uzņēmuma infrastruktūrā samazinās klientu izmaksas līdz pat 50% vienkāršiem uzdevumiem. Vienlaikus tika izlaisti arī nozīmīgi uzlabojumi standarta aģentu infrastruktūrā. Abas funkcijas būs pieejamas klientiem no ceturtdienas.
Uzņēmuma izpilddirektore Meja Habiba sacīja, ka uzņēmumi ir noguruši no nepārtrauktas vajāšanās pēc jaunākajiem etaloniem un vēlas stabilas, nemainīgas izmaksas. Jaunā pieeja īpaši koncentrējas uz sarežģītiem, daudzpakāpju uzdevumiem, kas tiek izpildīti ātrāk un ar mazāku tokenu skaitu.
Writer pētnieku publicētajā darbā secināts, ka izmaiņas infrastruktūrā bieži vien ir drošāks veids izmaksu samazināšanai nekā modeļa izvēle. Testēšanā izmaksas samazinājās vidēji par 40%. Pētnieki norāda, ka infrastruktūra ir komponents, kura efektivitāte vairojas ar katru modeli, ko organizācija izmanto tagad un nākotnē.
Klientiem joprojām ir iespēja izvēlēties starp dažādiem modeļiem — Palmyra X6 būs pieejams kopā ar citiem Writer modeļiem vai ārējiem modeļiem, kas importēti caur Azure vai Amazon Bedrock. Habiba arī saistīja izmaksu samazināšanas spiedienu ar pieaugošo neuzticēšanos lielajām AI laboratorijām, kurām ir finansiāls stimuls palielināt tokenu patēriņu. Viņa piebilda, ka šīs laboratorijas īsti neizprot, kā palīdzēt uzņēmumiem gūt labumu no AI.
