9月8日，在2023騰訊全球數(shù)字生態(tài)大會(huì)互聯(lián)網(wǎng)AIGC應(yīng)用專場(chǎng)上，騰訊云正式發(fā)布AIGC全棧解決方案，為企業(yè)提供可信、可靠、可用的AIGC全鏈路內(nèi)容服務(wù)，助力企業(yè)探索AGI之路，抓住AI2.0時(shí)代發(fā)展新機(jī)遇。同時(shí)攜手行業(yè)伙伴，分享AI應(yīng)用場(chǎng)景實(shí)踐，共同探討AIGC與千行百業(yè)的深度結(jié)合新路徑。

騰訊云副總裁許華彬在開(kāi)場(chǎng)致辭中表示：“當(dāng)前，AIGC已經(jīng)廣泛應(yīng)用到各行各業(yè)，如何讓技術(shù)真正落實(shí)到業(yè)務(wù)，實(shí)現(xiàn)生產(chǎn)效率和效益的真正提升，將成為當(dāng)前和未來(lái)最重要的關(guān)注點(diǎn)。騰訊云愿意與行業(yè)企業(yè)攜手合作，做好行業(yè)的技術(shù)助手，共同打造優(yōu)質(zhì)的AIGC應(yīng)用，為用戶提供更加智能化、便捷化的服務(wù)。”

騰訊云AIGC全棧解決方案，讓AIGC服務(wù)更“可信、可靠、可用”

騰訊云行業(yè)解決方案專家毛得輝表示，隨著星空人工智能2.0時(shí)代加速到來(lái)，企業(yè)業(yè)務(wù)落地面臨著諸多挑戰(zhàn)，如數(shù)據(jù)質(zhì)量不佳、大規(guī)模算力緊缺、推理成本居高不下、合規(guī)要求落實(shí)等問(wèn)題。

為助力各行各業(yè)加快數(shù)智化進(jìn)程，解決企業(yè)AI能力應(yīng)用難題，騰訊云推出了AIGC全棧解決方案，依托于騰訊云在大模型、機(jī)器學(xué)習(xí)等方面的AI能力，通過(guò)升級(jí)一站式MAAS服務(wù)，打造AIGC全鏈路內(nèi)容安全解決方案，為企業(yè)用戶提供從標(biāo)注、訓(xùn)練/微調(diào)、評(píng)估、測(cè)試到部署的全流程開(kāi)發(fā)業(yè)務(wù)，確保AIGC服務(wù)更“可信、可靠、可用”。

在算力方面，騰訊云的新一代高性能計(jì)算集群HCC，從“計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)”三大技術(shù)層面出發(fā)，為大模型訓(xùn)練提供高性能、高帶寬、低延遲的智算能力支撐。通過(guò)搭載最新代次計(jì)算卡，利用星星海自研服務(wù)器的6U超高密度設(shè)計(jì)和并行計(jì)算理念，確保高性能計(jì)算；依托高性能存儲(chǔ)CFS Turbo和對(duì)象存儲(chǔ)COS，實(shí)現(xiàn)高吞吐存儲(chǔ)；通過(guò)自研3.2T RDMA星脈網(wǎng)絡(luò)，保障高性能無(wú)損網(wǎng)絡(luò)；并構(gòu)建了集群可觀測(cè)體系，實(shí)現(xiàn)對(duì)GPU和網(wǎng)絡(luò)進(jìn)行實(shí)時(shí)監(jiān)控和故障自動(dòng)恢復(fù)，保證高穩(wěn)定性。

此外，騰訊云還通過(guò)GPU & CPU混布、GPU離在線混布、本地盤與分布式緩存混布的混合部署方式，系統(tǒng)性地提升了資源利用率。騰訊云新一代高性能計(jì)算集群HCC，打造了AIGC落地各行各業(yè)的算力基礎(chǔ)，讓AIGC服務(wù)更可靠。

在合規(guī)性方面，騰訊云能夠?qū)?shù)據(jù)集進(jìn)行預(yù)處理，為企業(yè)提供自動(dòng)化審核服務(wù)、定制識(shí)別服務(wù)等審核解決方案，再通過(guò)AIGC大模型進(jìn)行訓(xùn)練和微調(diào)，構(gòu)建起完善的內(nèi)容審核平臺(tái)，實(shí)現(xiàn)智能化攔截敏感內(nèi)容，保障了端到端的合規(guī)，有效解決了AIGC落地的內(nèi)容合規(guī)層面問(wèn)題，讓AIGC服務(wù)更可信。

在訓(xùn)練與推理效率方面，騰訊云通過(guò)數(shù)據(jù)集下載加速、訓(xùn)練及模型數(shù)據(jù)讀取加速、Checkpoint寫加速、分布式訓(xùn)練加速、推理加速的全鏈路加速能力，系統(tǒng)性地解決了訓(xùn)練與推理效率問(wèn)題，以效率提升帶動(dòng)成本下降，例如數(shù)據(jù)集下載層面，騰訊云的半托管MSP工具和對(duì)象存儲(chǔ)COS提供了跨地域復(fù)制能力，能夠輕松實(shí)現(xiàn)低成本將海外數(shù)據(jù)集傳輸至國(guó)內(nèi)。

毛得輝表示，“隨著模型的復(fù)雜度提升，推理的延遲也會(huì)很高，為滿足業(yè)務(wù)性能要求，模型推理所需的GPU性能也會(huì)變得異常的高，極大提升了單QPS的推理成本。目前大模型主要被用于生產(chǎn)力，原因是服務(wù)成本太