⁵

小汉同学 - AI 超级智能体 - 2 - AI 大模型接入笔记

小汉同学

2025-04-28 00:22

阅读719

小汉同学

2025-04-28 00:22

阅读 719

鱼总的下发任务

1）在 AI 应用平台上创建智能体应用、工作流应用、智能体编排应用 ✅

2）使用至少一个 AI 软件客户端，推荐 Cursor✅

前几天在用trae写一些crud，感觉挺好的，只是自己的prompt能力不太行，还有就是排队太爽了！！！

3）完成后端项目初始化✅

还差通用代码，copy即可（云图库没做完，但是这个阶段搞完了的），再和gemini 2.5 pro battle一下，看一下如何写这个通用代码比较简洁，再学习一下常用的设计模式在项目中的正确应用，一下demo。

4）实践 4 种程序调用 AI 大模型的方式✅

配置文件（application-local.yml）

▼
yml
复制代码
myai:
  api-key:
    dashscope: xxx # dashscope的api-key

spring:
  ai:
    dashscope:
      api-key: ${myai.api-key.dashscope}
      chat:
        options:
          model: qwen-plus

获取api-key

▼
java
复制代码
package com.xiaoh.haiagent.demo;

import org.yaml.snakeyaml.Yaml;

import java.io.InputStream;
import java.util.Map;

/**
 * @author: xiaohan
 * @dataTime: 2025/4/27 15:05
 * @desc:
 */
public class AppConfig {
    public static String getApiKey(String key) {
        // 1. 从 classpath 加载 application.yml
        try (InputStream input = AppConfig.class.getClassLoader()
                .getResourceAsStream("application-local.yml")) {
            // 2. 使用 SnakeYAML 解析
            Yaml yaml = new Yaml();
            Map<String, Object> config = yaml.load(input);

            // 3. 按层级获取属性（注意类型转换）
            Map<String, Object> myai = (Map<String, Object>) config.get("myai");
            Map<String, Object> apiKey = (Map<String, Object>) myai.get("api-key");
            return apiKey.get(key).toString();
        } catch (Exception e) {
            e.printStackTrace();
        }
        return "";
    }
}

使用对应的SDK进行调用

▼
java
复制代码
package com.xiaoh.haiagent.demo;

import com.alibaba.dashscope.aigc.generation.Generation;
import com.alibaba.dashscope.aigc.generation.GenerationParam;
import com.alibaba.dashscope.aigc.generation.GenerationResult;
import com.alibaba.dashscope.common.Message;
import com.alibaba.dashscope.common.Role;
import com.alibaba.dashscope.exception.ApiException;
import com.alibaba.dashscope.exception.InputRequiredException;
import com.alibaba.dashscope.exception.NoApiKeyException;
import com.google.gson.Gson;
import com.google.gson.GsonBuilder;

import java.util.Arrays;

/**
 * @author: xiaohan
 * @dataTime: 2025/4/27 14:56
 * @desc:
 */
// 建议dashscope SDK的版本 >= 2.12.0
public class SDKInvokeAI {
    public static GenerationResult callWithMessage() throws ApiException, NoApiKeyException, InputRequiredException {
        // 获取配置文件中的apiKey
        String apiKey = AppConfig.getApiKey("dashscope");
        // 调用生成服务
        Generation gen = new Generation();
        Message systemMsg = Message.builder()
                .role(Role.SYSTEM.getValue())
                .content("You are a helpful assistant.")
                .build();
        Message userMsg = Message.builder()
                .role(Role.USER.getValue())
                .content("你是谁？")
                .build();
        GenerationParam param = GenerationParam.builder()
                // 若没有配置环境变量，请用百炼API Key将下行替换为：.apiKey("sk-xxx")
                .apiKey(apiKey)
                // 此处以qwen-plus为例，可按需更换模型名称。模型列表：https://help.aliyun.com/zh/model-studio/getting-started/models
                .model("qwen-plus")
                .messages(Arrays.asList(systemMsg, userMsg))
                .resultFormat(GenerationParam.ResultFormat.MESSAGE)
                .build();
        return gen.call(param);
    }

    public static void main(String[] args) {
        try {
            GenerationResult result = callWithMessage();
            Gson gson = new GsonBuilder().setPrettyPrinting().create();
            System.out.println(gson.toJson(result));
        } catch (ApiException | NoApiKeyException | InputRequiredException e) {
            System.err.println("An error occurred while calling the generation service: " + e.getMessage());
        }
    }
}

使用http进行调用

▼
java
复制代码
package com.xiaoh.haiagent.demo;

import cn.hutool.http.HttpRequest;
import cn.hutool.http.HttpResponse;
import com.google.gson.*;

import java.util.HashMap;

/**
 * @author: xiaohan
 * @dataTime: 2025/4/27 17:31
 * @desc:
 */
public class HTTPInvokeAI {
    public static void main(String[] args) {
        String apiKey = AppConfig.getApiKey("dashscope");
        String url = "https://dashscope.aliyuncs.com/api/v1/services/aigc/text-generation/generation";
        // 设置请求头
        HashMap<String, String> header = new HashMap<>();
        header.put("Content-Type", "application/json");
        header.put("Authorization", "Bearer " + apiKey);
        // 设置请求体
        JsonObject body = new JsonObject();
        // 设置对话列表
        // 示例：设置系统消息和用户消息
        JsonObject systemMsg = new JsonObject();
        systemMsg.addProperty("role", "system");
        systemMsg.addProperty("content", "You are a helpful assistant.");
        // 设置用户消息
        JsonObject userMsg = new JsonObject();
        userMsg.addProperty("role", "user");
        userMsg.addProperty("content", "你是谁？");
        // 将消息整合在一个数组中
        JsonArray messages = new JsonArray();
        messages.add(systemMsg);
        messages.add(userMsg);
        // 构建input对象（关键修正点）
        JsonObject input = new JsonObject();
        input.add("messages", messages);  // 需要将messages包裹在input对象中
        // 添加到请求体中
        JsonObject parameters = new JsonObject();
        parameters.addProperty("result_format", "json_object");
        // 组装请求体
        body.addProperty("model", "qwen-plus");
        body.add("input", input);
        body.add("parameters", parameters);
        // 发起请求
        HttpResponse response = HttpRequest.post(url)
                .addHeaders(header)
                .body(body.toString())
                .execute();

        Gson gson = new GsonBuilder().setPrettyPrinting().create();
        String s = gson.toJson(JsonParser.parseString(response.body()));
        if (response.isOk()) {
            System.out.println("调用成功，响应内容为：\n" + s);
        } else {
            System.out.println("调用失败，错误码为：\n" + s);
        }
    }
}

使用SpringAI进行调用

▼
java
复制代码
package com.xiaoh.haiagent.demo;

import jakarta.annotation.Resource;
import org.springframework.ai.chat.messages.AssistantMessage;
import org.springframework.ai.chat.model.ChatModel;
import org.springframework.ai.chat.prompt.Prompt;
import org.springframework.boot.ApplicationArguments;
import org.springframework.boot.ApplicationRunner;
import org.springframework.boot.CommandLineRunner;
import org.springframework.stereotype.Component;

/**
 * @author: xiaohan
 * @dataTime: 2025/4/27 22:50
 * @desc:
 */
@Component
public class SpringAIInvokeAI implements CommandLineRunner, ApplicationRunner {
    @Resource
    private ChatModel dashscopeChatModel;

    @Override
    public void run(String... args) throws Exception {
        System.out.println("CommandLineRunner.run");
        AssistantMessage output = dashscopeChatModel.call(new Prompt("你好，我是小汉"))
                .getResult().getOutput();
        System.out.println(output.getText());
    }

    @Override
    public void run(ApplicationArguments args) throws Exception {
        // 这个接口也是一样的作用，只是参数格式不一样，而且这个先执行
        System.out.println("ApplicationRunner.run");
    }
}

使用LangChain4j进行调用

▼
java
复制代码
package com.xiaoh.haiagent.demo;

import dev.langchain4j.community.model.dashscope.QwenChatModel;

/**
 * @author: xiaohan
 * @dataTime: 2025/4/27 23:38
 * @desc:
 */
public class LangChain4jInvokeAI {
    public static void main(String[] args) {
        QwenChatModel chatModel = QwenChatModel.builder()
                .apiKey(AppConfig.getApiKey("dashscope"))
                .modelName("qwen-plus")
                .build();
        String s = chatModel.chat("你好，我是小汉");
        System.out.println(s);
    }
}

5）使用 Ollama 部署 1 个本地大模型，并且通过 Spring AI 调用✅

▼
java
复制代码

@Component
public class SpringAIInvokeAI implements ApplicationRunner {

    @Resource
    private ChatModel ollamaChatModel;

    @Override
    public void run(ApplicationArguments args) throws Exception {
        // 这个接口也是一样的作用，只是参数格式不一样，而且这个先执行
        System.out.println("ApplicationRunner.run");
        AssistantMessage output = ollamaChatModel.call(new Prompt("你好，我是小汉"))
                .getResult().getOutput();
        System.out.println(output.getText());
    }
}