首页 要闻 中国 经济 财经 品牌 点评 会展 综合 | 设为首页
中国品牌要闻网-传递资讯的价值打造品牌的影响
您现在的位置：首页/电商物流/ 正文
阿里云PAI-灵骏大模型训练工具Pai-Megatron-Patch正式开源！
来源：
编辑：
时间：2023-09-15

作者： 李鹏，王明，施晨，黄俊

导读

随着深度学习大语言模型的不断发展，其模型结构和量级在快速演化，依托大模型技术的应用更是层出不穷。对于广大开发者来说不仅要考虑如何在复杂多变的场景下有效的将大模型消耗的算力发挥出来，还要应对大模型的持续迭代。开发简单易用的大模型训练工具就成了应对以上问题广受关注的技术方向，让开发者专注于大模型解决方案的开发，降低大模型训练加速性能优化和训练/推理全流程搭建的人力开发成本。阿里云机器学习平台PAI开源了业内较早投入业务应用的大模型训练工具Pai-Megatron-Patch，本文将详解Pai-Megatron-Patch的设计原理和应用。

Pai-Megatron-Patch是什么

Pai-Megatron-Patch工具是阿里云机器学习平台PAI算法团队研发，基于阿里云智算服务PAI-灵骏平台的大模型最佳实践解决方案配套工具，旨在帮助大模型开发者快速上手灵骏产品，完成大语言模型（LLM）的高效分布式训练，有监督指令微调，模型离线推理验证等完整大模型开发链路。该项目提供了业界主流开源大模型基于Megatron-LM的训练&离线推理验证流程，方便用户快速上手大模型训练。

主要特性

开源地址

https://github.com/alibaba/Pai-Megatron-Patch

技术架构

Pai-Megatron-Patch的设计理念是不对Megatron-LM的源码进行侵入式修改，即不在Megatron-LM里面添加新的功能特性，将需要扩充完善的部分以patch补丁的方式呈现。在patch中构建LLM训练链路通过依赖Megatron-LM核心库的方法实现和Megatron-LM的解耦合。这样解耦合的好处就是Megatron-LM的升级不会影响用户的LLM最佳实践体验。
Pai-Megatron-Patch中包含模型库，分词器，模型转换，强化学习，离线文本生成以及使用示例和工具集等用于构建LLM训练的关键要素。在模型库中包含热门大模型的Megatron版本实现，例如baichuan，bloom，chatglm，falcon，galactica，glm，llama，qwen和starcoder，后续还会根据需要及时添加新的Megatron版大模型实现。同时patch还提供了huggingface模型权重和Megatron模型权重之间的双向转换。一方面是方便用户加载huggingface的权重在Megatron中继续预训练或者微调，另一方面是方便用户对训练好的Megatron模型使用huggingface的评估/推理流程对模型质量进行客观评估。在强化学习部分，patch提供了PPO训练流程等，方便用户使用SFT模型和RM模型进行强化学习。最后patch提供了大量的使用示例帮助用户快速开始大模型训练&离线推理。具体请参考阿里云灵骏产品的使用流程: 智算服务PAI灵骏大模型分布式训练方案。

关键技术

1.  模型权重转换

研发Megatron-Patch的初衷之一就是能将世界各地研发机构在Huggingface上放出的热门大模型使用Megatron引擎进行继续预训练或者继续微调。这就需要首先将Huggingface模型格式的ckpt转换成Megatron模型格式，才能正确加载进来，否则会出现pytorch加载模型失败。Megatron-Patch的一个核心可靠性保障特征就是在采用算子拆分，流水并行，序列并行，Zero显存优化，BF16混合精度，梯度检查点等训练加速技术确保模型训练吞吐速度平均提升1.5倍以上的同时，在评估任务模式下的单一样本前向loss值，预训练/微调任务模式下的loss曲线，离线文本生成任务模式下的生成效果这三个方面和Huggingface是对齐的，从而确保Megatron版模型的可靠性。
另一方面，Megatron版的transformer实现方式提供了一种让用户仅仅通过设置开关就能实现不同种类GPT模式的能力。比如llama模型打开如下开关即可
  •  
  •  
  •  
  •  
  •  
	  --swiglu   --use-rotary-position-embeddings   --no-position-embedding   --untie-embeddings-and-output-weights   --disable-bias-linear
如果想将llama模式变成baichuan模型，那么仅仅需要添加采用--use-alibi-mask开关，同时关闭Rotary Embeeding开关即可，具体配置如下所示：
  •  
  •  
  •  
  •  
  •  
	   --swiglu   --use-alibi-mask   --position-embedding-type none   --untie-embeddings-and-output-weights   --disable-bias-linear

下面我们以llama-2为例，详解从huggingface到megatron的模型权重转换技术。下表总结了两者在不同module上的命名对应关系。在patch实现过程中，我们首先将HF格式的ckpt转换到一种内部格式，然后再把这种内部格式转换成对应的外部格式。这样做可以最大程度复用已有的转换逻辑来处理新模型。在转换为内部格式的过程中，q_proj, k_proj, v_proj需要沿着第0维拼接在一起后赋值给内部变量query_key_value。

当用户在资源受限情况下需要按照TP>1来拆分权重的时候，这里需要注意的是针对MLP层的gate_proj和up_proj的操作。不能像qkv那样在转换成内部格式的时候进行merge再执行算子拆分。需要在拆分前加入如下针对MLP层的权重合并的代码逻辑才能确保正确收敛。
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
	for i in range(tp_size):    params_dict = get_element_from_dict_by_path(output_state_dict[i],                                                "model.language_model.encoder")    dense_h_to_4h_1_name = 'mlp.dense_h_to_4h_1.weight'    dense_h_to_4h_1_layer_name = f"layers.{layer}.{dense_h_to_4h_1_name}"    dense_h_to_4h_1_weight = params_dict[dense_h_to_4h_1_layer_name]    dense_h_to_4h_2_name = 'mlp.dense_h_to_4h_2.weight'    dense_h_to_4h_2_layer_name = f"layers.{layer}.{dense_h_to_4h_2_name}"    dense_h_to_4h_2_weight = params_dict[dense_h_to_4h_2_layer_name]    dense_h_to_4h_name = 'mlp.dense_h_to_4h.weight'    dense_h_to_4h_layer_name = f"layers.{layer}.{dense_h_to_4h_name}"    params_dict[dense_h_to_4h_layer_name] = torch.cat(    [dense_h_to_4h_1_weight, dense_h_to_4h_2_weight], dim=0)
2.  基于TE的FP8训练收敛
Transformer Engine(TE)是一个在英伟达GPUS上运行的针对Transformer模型的加速库，其中包括针对Hopper GPU的FP8混合精度，该精度可以在较低的显存利用率下提供更好的训练&推理速度。在TE内部封装了Flash Attention实现，同时TE还提供了一组高度优化后的算子用来构建Transformer模型。比如LayerNormLinear就是将LayerNorm和QKV-Proojection进行算子融合，LayerNormMLP就是将layernorm和mlp进行算子融合。如下图所示：

从Huggingface到TE模型的权重转换技术和之前是类似的，也需要事先找到两者之间的映射关系。从下表可以看出，TE中多了_extra_state是用来存fp8训练的scale和history的，这些在加载的时候会出现冲突，这时只要将load_state_dict函数的strict设置成False就可以了，比如load_state_dict(state_dict_, strict=False)。

 

在Megatron-Patch中使用示例中打开FP8混合精度训练开关也很容易，如下所示：
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
	if [ $PR = fp16 ]; then    pr_options="         --fp16"elif [ $PR = bf16 ]; then    pr_options="         --bf16"elif [ $PR = fp8 ]; then    pr_options="         --bf16        --fp8-hybrid         --fp8-amax-compute-algo max         --fp8-amax-history-len 1024         --transformer-impl transformer_engine"fi
我们可以使用如下训练脚本run_pretrain_megatron_llama_enwiki.sh来测试打开FP8开关后的预训练收敛性。下图展示了llama-7B和llama-2-70B模型在打开和关闭FP8时的loss曲线对比，可以看出基本是重合的。
LLama-7B
LLama2-70B
3.  大模型训练&推理
从github上获取Megatron模型训练工具PAI-Megatron-Patch（https://github.com/alibaba/Pai-Megatron-Patch）源代码并拷贝到工作目录/mnt/workspace/下。
1）模型格式转换
使用我们提供的模型转换脚本，将huggingface格式的模型文件转换为megatron格式：
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
	cd /mnt/workspace/mkdir llama2-ckptscd llama2-ckptswget https://atp-modelzoo-wlcb-pai.oss-cn-wulanchabu.aliyuncs.com/release/
models/pai-megatron-patch/llama2-ckpts/Llama-2-7b-hf.tgztar -zxf Llama-2-7b-hf.tgzmv Llama-2-7b-hf llama2-7b-hfcd /mnt/workspace/PAI-Megatron-Patch/toolkits/model_checkpoints_convertor/llamash model_convertor.sh /root/Megatron-LM-23.04        /mnt/workspace/llama2-ckpts/llama2-7b-hf         /mnt/workspace/llama2-ckpts/llama2-7b-hf-to-megatron-tp1-pp1  1  1  llama-7b 0 false
2）继续预训练
中文继续预训练汉化指引
Step1: 获取需要扩充词表的模型（如llama-13b-hf）

Step2: 获取需要扩充的词表

Step3: 词表扩充

运行继续预训练脚本 run_pretrain_megatron_llama.sh，需要传入的参数列表如下：
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
	ENV=$1                          # 运行环境: dlc, dswMEGATRON_PATH=$2                # 设置开源Megatron的代码路径MEGATRON_PATCH_PATH=$3          # 设置Megatron Patch的代码路径MODEL_SIZE=$4                   # 模型结构参数量级：7B, 13BBATCH_SIZE=$5                   # 每卡训练一次迭代样本数: 4, 8GLOBAL_BATCH_SIZE=$6            # 全局batch sizeLR=$7                           # 学习率: 1e-5, 5e-5MIN_LR=$8                       # 最小学习率: 1e-6, 5e-6SEQ_LEN=$9                      # 序列长度PAD_LEN=${10}                   # Padding长度：100EXTRA_VOCAB_SIZE=${11}          # 词表扩充大小PR=${12}                        # 训练精度: fp16, bf16TP=${13}                        # 模型并行度PP=${14}                        # 流水并行度AC=${15}                        # 激活检查点模式: sel, fullDO=${16}                        # 是否使用Megatron版Zero-1降显存优化器: true, falseFL=${17}                        # 是否使用Flash Attention: true, falseSP=${18}                        # 是否使用序列并行: true, falseSAVE_INTERVAL=${19}             # 保存ckpt的间隔DATASET_PATH=${20}              # 训练数据集路径PRETRAIN_CHECKPOINT_PATH=${21}  # 预训练模型路径TRAIN_TOKENS=${22}              # 训练token数WARMUP_TOKENS=${23}             # 预热token数OUTPUT_BASEPATH=${24}           # 训练输出文件路径

注意设置正确的数据集挂载路径WORK_DIR以及运行环境ENV，运行示例如下所示：

  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
	export WORK_DIR=/mnt/workspacecd ${WORK_DIR}/PAI-Megatron-Patch/examples/llama2bash run_pretrain_megatron_llama.sh dlc /root/Megatron-LM-23.04   ${WORK_DIR}/PAI-Megatron-Patch  7B   1    16 1e-5   1e-6   2048  80  0   fp16  1   1  sel  true   false  false   100000  ${WORK_DIR}/llama2-datasets/wudao/wudao_llamabpe_text_document   ${WORK_DIR}/llama2-ckpts/llama2-7b-hf-to-megatron-tp1-pp1   100000000   10000   ${WORK_DIR}/output_megatron_llama2/

3）有监督微调

在微调开始之前，请先进入

https://github.com/alibaba/Pai-Megatron-Patch/blob/main/toolkits/pretrain_data_preprocessing/README.md

获取json文件。运行run_finetune_megatron_llama.sh脚本，需要传入的参数列表如下：

  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
	ENV=$1                          # 运行环境: dlc, dswMEGATRON_PATH=$2                # 设置开源Megatron的代码路径MEGATRON_PATCH_PATH=$3          # 设置Megatron Patch的代码路径MODEL_SIZE=$4                   # 模型结构参数量级: 7B, 13BBATCH_SIZE=$5                   # 每卡训练一次迭代样本数: 4, 8LR=$6                           # 学习率: 1e-5, 5e-5MIN_LR=$7                       # 最小学习率: 1e-6, 5e-6SEQ_LEN=$8                      # 序列长度PAD_LEN=$9                      # Padding长度：100EXTRA_VOCAB_SIZE=${10}          # 词表扩充大小PR=${11}                        # 训练精度: fp16, bf16TP=${12}                        # 模型并行度PP=${13}                        # 流水并行度AC=${14}                        # 激活检查点模式: sel, fullDO=${15}                        # 是否使用Megatron版Zero-1降显存优化器: true, falseFL=${16}                        # 是否使用Flash Attention: true, falseSP=${17}                        # 是否使用序列并行: true, falseTRAIN_DATASET_PATH=${18}        # 训练数据集路径VALID_DATASET_PATH=${19}        # 验证数据集路径PRETRAIN_CHECKPOINT_PATH=${20}  # 预训练模型路径EPOCH=${21}                     # 训练迭代轮次OUTPUT_BASEPATH=${22}           # 训练输出文件路径
多节点运行示例如下所示：
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
	export WORK_DIR=/mnt/workspacecd ${WORK_DIR}/PAI-Megatron-Patch/examples/llama2sh run_finetune_megatron_llama.sh  dlc    /root/Megatron-LM-23.04   ${WORK_DIR}/PAI-Megatron-Patch  7B     1      1e-5   1e-6   2048   80     0      fp16   1      1      sel    true   false  false  ${WORK_DIR}/llama2-datasets/wudao_train.json   ${WORK_DIR}/llama2-datasets/wudao_valid.json   ${WORK_DIR}/llama2-ckpts/llama2-7b-hf-to-megatron-tp1-pp1   2   ${WORK_DIR}/output_megatron_llama2/
4）离线推理
模型训练完成后，可以进行离线推理，评估模型效果。根据上面的训练流程不同，我们提供了Megatron格式的推理链路。对于Megatron训练的模型，可以直接用Megatron框架进行推理。
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
	ENV=$1                          # 运行环境: dlc, dswMEGATRON_PATH=$2                # 设置开源Megatron的代码路径MEGATRON_PATCH_PATH=$3          # 设置Megatron Patch的代码路径CHECKPOINT_PATH=$4              # 模型微调阶段的模型保存路径MODEL_SIZE=$5                   # 模型结构参数量级: 1.1B, 1.7B, 7.1BTP=$6                           # 模型并行度BS=$7                           # 每卡推理一次迭代样本数: 1, 4, 8SEQ_LEN=$8                      # 序列长度: 256, 512, 1024PAD_LEN=$9                      # PAD长度：需要将文本拼接到的长度EXTRA_VOCAB_SIZE=${10}          # 模型转换时增加的token数量PR=${11}                        # 推理采用的精度: fp16, bf16TOP_K=${12}                     # 采样策略中选择排在前面的候选词数量(0-n): 0, 5, 10, 20INPUT_SEQ_LEN=${13}             # 输入序列长度: 512OUTPUT_SEQ_LEN=${14}            # 输出序列长度: 256INPUT_FILE=${15}                # 需要推理的文本文件: input.txt, 每行为一个样本OUTPUT_FILE=${16}               # 推理输出的文件: output.txt# TOP_K和TOP_P必须有一个为0TOP_P=${17}                     # 采样策略中选择排在前面的候选词百分比(0-1): 0, 0.85, 0.95TEMPERATURE=${18}               # 采样策略中温度惩罚: 1-nREPETITION_PENALTY=${19}        # 避免生成是产生大量重复，可以设置为(1-2)默认为1.2

https://atp-modelzoo-wlcb-pai.oss-cn-wulanchabu.aliyuncs.com/release/models/
pai-megatron-patch/llama2-datasets/pred_input.jsonl

以下有监督微调过程保存模型的推理代码，需要将run_text_generation_megatron_llama.sh脚本中CUDA_VISIBLE_DEVICES参数设置为0；GPUS_PER_NODE参数设置为1；同时使用下列代码进行推理。此时使用单卡进行推理。注意：此处模型tp为1，可使用单卡推理；如果tp>1，则需使用相应卡数进行推理。

  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
	export WORK_DIR=/mnt/workspacecd ${WORK_DIR}/PAI-Megatron-Patch/examples/llama2bash run_text_generation_megatron_llama.sh dsw /root/Megatron-LM-23.04 ${WORK_DIR}/PAI-Megatron-Patch ../../../llama2-train 7B 1 1 1024 1024 0 fp16 10 512 512 ${WORK_DIR}/pred_input.jsonl ${WORK_DIR}/llama2_pred.txt 0 1.0 1.2
4.  大模型强化学习

一般来说，SFT微调过的模型在对话场景已经会有不错的表现了。如果想进一步提升模型效果，可以再加上RLHF训练。包括奖励模型（Reward Model）的训练和强化学习（PPO）的训练。这里展示了如何使用当前最常用的RLHF开源代码框架，DeepSpeed-Chat和trlx，来进行奖励函数训练（RM），以及强化学习优化（PPO）。

1）模型格式转换

如果基于huggingface格式的模型直接进行奖励模型训练（RM）和强化学习优化（PPO），可以跳过此步骤。
如果基于Megatron格式的模型，如PAI-Megatron-Patch训练好的SFT模型，进行RM和PPO训练，需要使用我们提供的模型转换脚本，先将Megatron格式的模型文件转换为huggingface格式。
LLaMA2模型转换：
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
	cd PAI-Megatron-Patch/toolkits/model_checkpoints_convertor/gpt3_llamabash model_convertor.sh /path/to/Megatron-LM /path/to/megatron_llama2_ckpt /path/to/hf_llama2_ckpt 1 1 llama-7b 0 true
BLOOM模型转换：
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
	cd PAI-Megatron-Patch/toolkits/model_checkpoints_convertor/bloombash model_convertor_huggingface_megatron.sh /path/to/Megatron-LM /path/to/megatron_bloom_ckpt /path/to/hf_bloom_ckpt 1 1 true

2）DeepSpeed-Chat

下载安装开源社区DeepSpeed-Chat源代码：

  •  
  •  
  •  
  •  
  •  
  •  
	cd PAI-Megatron-Patch/rlhf/deepspeed-chatgit clone https://github.com/microsoft/DeepSpeedExamples.gitcp -f rm_main.py DeepSpeedExamples/applications/DeepSpeed-Chat/training/
step2_reward_model_finetuning/main.pycp -f utils.py DeepSpeedExamples/applications/DeepSpeed-Chat/training/
utils/utils.pycd DeepSpeedExamples/applications/DeepSpeed-Chat/pip install -r requirements.txt
基于LLaMA2模型训练奖励模型（RM）：
  •  
	cd training/step2_reward_model_finetuning/ && bash training_scripts/
llama2/run_llama2_7b.sh
基于LLaMA2进行强化学习优化训练（PPO）：
  •  
	cd training/step3_rlhf_finetuning/ && bash training_scripts/llama2/run_llama2_7b_lora.sh
3）trlx
下载安装开源社区trlx源代码：
  •  
  •  
  •  
  •  
  •  
  •  
  •  
	cd PAI-Megatron-Patch/rlhf/trlxgit clone https://github.com/CarperAI/trlx.gitcp trlx_bloom_rlhf.py trlx_bloom_rlhf_test.py trlx/examples/summarize_rlhf/cp train_reward_model_bloom.py reward_model_bloom.py ds_config_bloom.json trlx/
examples/summarize_rlhf/reward_model/cp -f ds_config_trlx_gptj_summarize.json trlx/examples/summarize_rlhf/configs/cd trlxpip install -e .
基于BLOOM模型训练奖励模型（RM）：
  •  
	cd examples/summarize_rlhf/reward_model/ && deepspeed train_reward_model_bloom.py

基于GPT-J模型训练奖励模型（RM）：

  •  
	cd examples/summarize_rlhf/reward_model/ && deepspeed train_reward_model_gptj.py
基于BLOOM模型进行强化学习优化训练（PPO）：
  •  
	cd examples/summarize_rlhf/ && accelerate launch --config_file configs/
default_accelerate_config.yaml trlx_bloom_rlhf.py
基于GPT-J模型进行强化学习优化训练（PPO）：
  •  
	cd examples/summarize_rlhf/ && accelerate launch --config_file configs/
default_accelerate_config.yaml trlx_gptj_text_summarization.py
PPO单测
如果您想跳过 有监督微调（SFT）与 奖励模型训练（RM）两个步骤，只单独测试PPO模块的性能，可以运行如下指令单测PPO：
  •  
	cd examples/summarize_rlhf/ && accelerate launch --config_file configs/
default_accelerate_config.yaml trlx_bloom_rlhf_test.py

 开源生态——构想和未来

在PAI-Megatron-Patch的开发过程中，我们围绕中文大模型训练加速落地沉淀了以下几个方面的内容：

后续在PAI-Megatron-Patch中还会陆续放出更多高质量的大模型和最佳实践。此外，在中长期，我们在Megatron版的Lora流程以及Transformer Engine方向上会持续投入精力，也欢迎各种维度的反馈和改进建议以及技术讨论，同时我们十分欢迎和期待对开源社区建设感兴趣的同行一起参与共建，钉钉群号是29605038042。
参考文献

[1]. Attention Is All You Need

[2]. Megatron-LM: Training Multi-Billion Parameter Language Models Using Model Parallelism
[3]. Reducing Activation Recomputation in Large Transformer Models
[4]. FP8 Formats for Deep Learning
[5]. ZeRO: Memory Optimizations Toward Training Trillion Parameter Models
[6]. LLaMA: Open and Efficient Foundation Language Models

[7]. Llama 2: Open Foundation and Fine-Tuned Chat Models

[8]. Benchmarking Large Language Models on NVIDIA H100 GPUs with CoreWeave

 

免责声明：本文仅代表作者个人观点，与本网无关。其原创性以及文中陈述文字和内容未经本站证实， 对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺， 请读者仅作参考，并请自行核实相关内容。当事人（单位）如有异议，请参阅《删帖说明》办理。
中国品牌要闻网-传递资讯的价值打造品牌的影响
跨越速运未等消费者验完货就签收，致上万元电视机索赔难！
编辑：综合整理
2024-04-01
评论(0)
国际网络交易平台之全球十大电商平台，中企阿里，京东，拼多多三巨头上榜
编辑：综合整理
2024-03-28
评论(0)
极兔速递事件：千亿极兔！巨亏83.6亿，更危险的信号曝光
编辑：综合整理
2024-03-27
评论(0)
Glocash跨境电商支付平台安全吗？可提供那些支付服务？
编辑：综合整理
2024-03-26
评论(0)
ePRICE是什么？意大利电商ePRICE平台入驻流程指南
编辑：综合整理
2024-03-25
评论(0)
麻城市电商直播培训为农文旅大融合开辟新的发展之路
编辑：综合整理
2024-03-25
评论(0)
美团减亏难题待解，2023年新业务又亏掉一半以上净利润
编辑：综合整理
2024-03-23
评论(0)
宝尊电商2023年亏损2.784亿元，三年连续亏损幅度缩窄
编辑：综合整理
2024-03-22
评论(0)
  • CopyRight@ 2005-2022 中国品牌要闻网
  • 工商注册号 430122000189097
  • ICP备案许证：渝ICP备2022012785号