Cointime

扫码下载App
iOS & Android

OpenAI 推出了面向企业的 ChatGPT API,具有专门的容量计划,定价为 0.002 美元/~750 字

Cointime Official

位于旧金山的初创公司OpenAI开发的免费文本生成人工智能ChatGPT的重要性不必再多言,它的功能大家有目共睹。

截至去年12月,ChatGPT的月活跃用户估计超过1亿人。它吸引了主流媒体的关注,并在社交媒体上催生了无数的meme。它已被用于编写亚马逊Kindle商店的数百本电子书。它还被认为是至少一篇科学论文的共同作者。

但是,OpenAI作为一个企业(尽管是一个有盈利上限的企业)必须以某种方式将ChatGPT变现,以免投资者感到焦躁。它在今年2月份推出了高级服务——ChatGPT Plus,朝着这个方向迈出了一步。今天,它采取了更大的行动,推出了一个API,允许任何企业在其应用程序、网站、产品和服务中使用ChatGPT技术。

API是其一直以来的计划。这是OpenAI总裁兼主席Greg Brockman(也是联合创始人之一)所说的。他昨天下午在ChatGPT API发布之前通过视频电话与媒体进行了交谈。

Brockman说:“我们需要一段时间来使这些API达到一定的质量水平。我认为这是一种能够满足市场需求和规模的方式。”

Brockman说,ChatGPT API由OpenAI大受欢迎的ChatGPT背后的相同AI模型驱动,被称为 “gpt-3.5-turbo”。GPT-3.5是OpenAI目前通过其API套件提供的最强大的文本生成模型;“turbo”这个名称是指OpenAI一直在为ChatGPT悄悄测试的GPT-3.5的优化、更灵敏的版本。

价格为每1000个tokens 0.002美元(或大约750个单词),Brockman声称,该API可以驱动一系列的体验,包括 “非聊天”应用。Snap、Quizlet、Instacart和Shopify是早期采用者之一。

开发gpt-3.5-turbo背后的最初动机可能是为了减少ChatGPT的巨大计算成本。OpenAI首席执行官Sam Altman曾称ChatGPT的支出 “令人瞠目结舌”,他估计每个聊天的计算成本都有几分钱。(只要超过一百万的用户,计算成本就会迅速增加)。

但Brockman说,gpt-3.5-turbo在其他方面也有改进。

Brockman说:“如果你正在建立一个人工智能驱动的导师,你永远不希望导师只是给学生一个答案。你希望它总是解释并帮助他们学习——这就是你应该能够用API建立的那种系统的一个例子。我们认为这将是一个新东西,就像,使API更可用,更容易获得。”

ChatGPT API是My AI的基础,它是Snap最近宣布的针对Snapchat+用户的聊天机器人,以及Quizlet的新Q-Chat虚拟导师功能。Shopify使用ChatGPT API建立了一个个性化的购物推荐助手,而Instacart则利用它创建了Ask Instacart,这是一个即将到来的收费项目,允许Instacart的客户询问食物,并从该公司的零售合作伙伴的产品数据中获得 “可购物的”答案。

Instacart首席架构师JJ Zhuang通过电子邮件告诉媒体:“购买食品可能需要很大的精神负担,这有很多因素在起作用,比如预算、健康和营养、个人口味、季节性、烹饪技巧、准备时间和食谱灵感。如果人工智能可以承担这种心理负担,我们可以帮助那些通常负责杂货店购物、膳食计划和把食物放在桌子上的家庭领导人——实际上让杂货店购物真正变得有趣,那会怎么样?Instacart的人工智能系统与OpenAI的ChatGPT整合后,将使我们能够做到这一点,我们很高兴开始尝试在Instacart应用中的可能性。”

不过,那些一直密切关注ChatGPT传奇的人可能会想知道它是否已经成熟到可以发布了,这么想确实也是正确的。

早期,用户能够促使ChatGPT以种族主义和性别歧视的方式回答问题,这反映了ChatGPT最初训练的数据有偏见。(ChatGPT的训练数据包括广泛的互联网内容,即电子书、Reddit帖子和维基百科文章)。ChatGPT还“发明”了一些事实,但它没有透露正在这样做,这种现象在人工智能中被称为“幻觉”。

ChatGPT(以及类似的系统)也很容易受到基于提示的攻击,或者恶意的对手提示,让他们执行并不属于其原始目标的任务。Reddit上的整个社区已经围绕着寻找 “越狱”ChatGPT和绕过OpenAI设置的任何保障措施的方法而形成。在一个不太令人反感的例子中,初创公司Scale AI的一名员工能够让ChatGPT泄露其内部技术运作的信息。

毫无疑问,品牌商不会想被抓取重要信息数据。Brockman坚称他们不会这样。为什么这么说?他说,原因之一是后端持续改进,在某些情况下是以肯尼亚合同工为代价的。但Brockman强调了一种新的(而且明显不那么有争议的)方法,OpenAI称之为聊天标记语言,或ChatML。ChatML将文本作为一连串的信息和元数据提供给ChatGPT API。这与标准的ChatGPT相反,后者消费的是以一系列标记表示的原始文本。 例如,单词 “fantastic”将被分割成标记“fan”、“tas”和“tic”)。

例如,给定提示 "我30岁生日了,请给一些有趣的聚会想法”开发人员可以选择在该提示后附加一个额外的提示,如 “你是一个有趣的对话式聊天机器人,旨在帮助用户解决他们提出的问题。你应该以有趣的方式如实回答!”或 “你是一个机器人”,然后让ChatGPT API进行处理。Brockman说,这些指示有助于更好地定制(和过滤)ChatGPT模型的反应。

Brockman说:“我们正在向更高层次的API发展。如果你有一个更结构化的方式来表示对系统的输入,你说,'这是来自开发者'或'这是来自用户'......我应该期望,作为一个开发者,你实际上可以更稳健地使用ChatML对抗这些类型的提示攻击”。

另一个变化是更频繁的模型更新,这将(希望)防止意外的ChatGPT行为。随着gpt-3.5-turbo的发布,开发者将默认自动升级到OpenAI的最新稳定模型,Brockman说,从gpt-3.5-turbo-0301(今天发布)开始。不过,如果开发者选择的话,他们可以选择继续使用旧的模型,这可能在某种程度上否定了这种好处。

无论他们是否选择更新到最新的模型,Brockman指出,一些客户(主要是拥有相应大额预算的大型企业)将通过引入专用容量计划对系统性能进行更深入的控制。OpenAI的专用容量计划在本月早些时候泄露的文件中首次详细说明,该计划今天推出,让客户为运行OpenAI模型的计算基础设施分配付费,例如,gpt-3.5-turbo。(顺便说一句,后端云计算平台是Azure)。

除了对实例负载的 “完全控制”,通常情况下,对OpenAI API的调用发生在共享计算资源上,专用容量使客户有能力启用诸如更长的上下文限制等功能。上下文限制是指模型在生成额外文本之前考虑的文本;较长的上下文限制允许模型从本质上 “记住”更多的文本。虽然较高的上下文限制可能无法解决所有的偏见和毒性问题,但它们可以使gpt-3.5-turbo等模型的“幻觉”减少。

Brockman说,专用容量的客户可以期待gpt-3.5-turbo模型有高达16k的上下文窗口,这意味着他们可以接受四倍于标准ChatGPT模型的tokens。这可能会让人们在粘贴数页的税务代码后从模型中得到合理的答案,比如说,这是今天不可能实现的壮举。

Brockman暗指未来会有一个全面的发布(但不是很快)。

Brockman说:“上下文窗口开始逐渐增加,我们现在只为客户提供专用容量的部分原因是,我们这边有很多性能上的折衷。我们最终可能会提供同样东西的按需版本。”

鉴于OpenAI在获得微软数十亿美元的投资后,面临着越来越大的盈利压力,这并不令人惊讶。

评论

所有评论

推荐阅读

  • 立讯精密:公司及立讯技术涉337调查,尚处立案初期

    10月10日,立讯精密公告,公司及控股子公司东莞立讯技术股份有限公司被列为美国国际贸易委员会337调查被调查方,涉及美国专利US 10,90.37万。ITC于当地时间2026年10月9日正式启动调查,调查编号337-TA-1526,目前尚处于立案初期,尚未就相关侵权主张作出实质认定;涉案产品处于客户验证阶段,尚未进入量产状态。

  • 法国财委会通过稳定币兑换税与加密离境税修正案

    10月10日,据Decrypt报道,法国国民议会财政委员会本周通过两项加密税收修正案:自2027年1月1日起,将兑换受MiCA监管的稳定币视为应税出售;并拟对过去10年内至少6年为法国税务居民、加密资产合计价值超80万欧元而迁居海外的纳税人征收离境税。委员会10月9日以31票对3票否决预算收入部分,全体国民议会将基于政府原始文本审议,修正案不会自动纳入,支持者需在10月13日开始的辩论中重新提出,正式投票定于10月20日,相关措施尚未成为法律。稳定币修正案由左翼GDR党团成员Nicolas Sansu及16名联署者提出,未设新税率,拟将收益纳入法国现行31.4%统一税制。委员会还通过修正案,允许将加密资产亏损结转10年抵扣未来收益。

  • Entropy花费569.98枚HYPE拍下xiaomi(小米)代码,或即将上线其永续合约

    10月10日,HIP-3市场部署者Entropy花费569.98枚HYPE拍下代码xiaomi,Entropy或即将上线其永续合约。

  • 韩国金融委:交易所大股东持股限制不针对特定企业

    10月10日,据韩国金融委员会主席李亿元表示,正在推进的《数字资产基本法》中关于虚拟资产交易所大股东持股限制的规定,并非针对特定人士或企业,而是考虑到交易所制度化运营后需承担更高公共责任。目前韩国虚拟资产交易所采取每3年更新申报制度,未来《数字资产基本法》实施后将转为许可制运营。李亿元称,交易所具有基础设施属性,需具备与其地位相匹配的公共性和责任性。

  • 伯恩斯坦拆解AI基建成本:每吉瓦投资最高395亿美元

    10月10日,伯恩斯坦研报显示,采用不同AI加速器架构,建设1GW数据中心所需的资本开支约为346亿至395亿美元。其中,英伟达Vera Rubin架构的建设成本最高,OpenAI自研ASIC架构Jalapeno则相对较低。伯恩斯坦将英伟达Rubin NVL72单机柜成本预期从此前的910万美元大幅下调至752万美元,降幅约17%,主要反映了对HBM价格和NAND存储容量预期的调整。研报还指出,AI数据中心的主要经济负担并非电费,而是巨额资本开支及其产生的折旧。

  • 长鑫技术新突破:4F²架构产品预计年底亮相

    10月10日,长鑫存储4F² DRAM架构研发近期取得关键进展。该公司总裁曹堪宇博士在第四届集成芯片和芯粒大会上发表演讲,全面介绍了长鑫存储在DRAM器件、4F²架构及混合键合等方向的技术探索与积累,并官宣预计年底将推出融合了上述先进技术的新一代DDR5 RDIMM产品。

  • 中国证监会召开资本市场和金融形势专家座谈会

    10月10日,中国证监会党委书记、主席吴清在北京召开座谈会,与部分上市公司负责人、证券基金机构专家深入交流,就当前资本市场和金融形势充分听取意见建议。座谈会上,大家一致认为,我国宏观经济稳中向好,产业结构转型持续深化,资本市场运行总体稳健,多层次市场功能有效发挥,虽然面临一些风险挑战,但高质量发展的态势不会改变,对经济运行和资本市场充满信心。同时,与会专家对更好推动资本市场平稳健康发展提出了具体建议,主要包括:持续加强稳市机制建设,进一步拓宽中长期资金来源、渠道和入市方式,发展壮大耐心资本;推动有条件的上市公司加大分红回购力度,完善投资者回报和权益保护机制;优化发行上市制度,支持不同类型、不同行业、多元化的优质企业发展壮大;强化交易监管,加强跨境风险监测应对;研究储备更多增量政策工具;等等。吴清表示,上市公司和行业机构是市场的重要主体,希望大家积极建言献策,共同把资本市场建设好,更好回报广大投资者,为中国式现代化建设积极贡献力量。中国证监会有关司局负责同志参加座谈。

  • Hyperliquid巨鲸在10·10崩盘周年持有3236万美元比特币空单

    10月10日,据Bitcoin.com报道,一Hyperliquid巨鲸在「10·10崩盘」一周年之际持有391.48枚BTC空单,规模3236万美元,平均入场价82863.10美元,采用13倍全仓杠杆,账户权益719万美元,清算价99801.20美元,较当前价格高约20%。数据显示,该地址已累计交易4726笔,近一周永续合约盈利95.2万美元,最大回撤11.03%;截至发稿该空单浮盈约7.55万美元。2025年10月10日,加密市场经历史上最大清算事件,清除了超191亿美元的杠杆头寸。比特币��报约82754美元,较126080美元历史高点低约34%。Coinglass数据显示,若BTC回升至85000美元,约33亿美元空单将面临风险。Hyperliquid的BTC未平仓合约约38040枚,该巨鲸约占1%。

  • 摩根士丹利增持比特币,总持仓量达1.06万枚

    10月10日,摩根士丹利通过旗下现货比特币交易所交易基金MSBT增持91.69枚比特币,总持仓量升至10639枚,当前价值约8.8亿美元。

  • Strive募资约5500万美元 足够买入约638枚比特币

    10月10日,据Bitcoin.com报道,Strive的SATA优先股本周募资约5500万美元,足以购买约638枚比特币。据追踪平台Bitcointreasuries.net统计,该数字来自周度仪表盘快照,仅计入以100美元面值或以上成交的成交量,再按经SEC文件校准的捕获比率估算其通过ATM计划售出的新股数量。SATA在10月5日及6日多数时间高于面值成交,但周三至周五全部低于面值,发行随之暂停——这是此类机制的内置刹车:低于面值发行新股会侵蚀计划承诺,须待买方推高价格方能恢复。同期Michael Saylor旗下Strategy在9月28日至10月4日未售出任何STRC股份,其10月1日至4日购入的334枚BTC由出售MSTR普通股提供资金,持仓升至848000枚BTC。Strive截至10月2日持有29462枚BTC。两家公司周一的8-K文件预计将确认实际购币数量。