空域AI超分
======

从26.0.0版本开始，新增支持Vulkan协议。

XEngine Kit提供空域AI超分能力，基于单帧图像使用AI推理生成滤波参数进行超采样，通过GPU、NPU协同工作，实现比空域GPU超分更好的画质，建议超分倍率在1.5倍以下时使用。

#### 约束与限制

*   支持的设备类型：Phone，从5.1.0(18)版本开始新增支持Tablet、PC/2in1设备，从5.1.1(19)版本开始新增支持TV设备。
    
*   可通过以下方式查询相关扩展特性是否支持：
    
    *   对于OpenGL ES，使用[HMS\_XEG\_GetString](https://developer.huawei.com/consumer/cn/doc/harmonyos-references/xengine-kit-xengine#hms_xeg_getstring)扩展特性查询接口进行查询。
        
    *   对于Vulkan，使用[HMS\_XEG\_EnumerateDeviceExtensionProperties](https://developer.huawei.com/consumer/cn/doc/harmonyos-references/xengine-kit-xengine#hms_xeg_enumeratedeviceextensionproperties)扩展特性查询接口进行查询。
        
    
    如查询结果包含[XEG\_NEURAL\_UPSCALE\_EXTENSION\_NAME](https://developer.huawei.com/consumer/cn/doc/harmonyos-references/xengine-kit-xengine#xeg_neural_upscale_extension_name)，则表示支持该特性，若查询结果未包含，则表示不支持该特性。
    

#### 接口说明

以下为空域AI超分特性需要使用的接口，详细说明请参考[接口文档](https://developer.huawei.com/consumer/cn/doc/harmonyos-references/xengine-kit-xengine)。

**OpenGL ES接口：**

| 接口名 | 描述 |
| :-- | :-- |
| const GLubyte \* HMS\_XEG\_GetString(GLenum name) | XEngine OpenGL ES扩展特性查询接口。 |
| GL\_APICALL void GL\_APIENTRY HMS\_XEG\_NeuralUpscaleParameter(GLenum pname, GLvoid \*param) | 设置空域AI超分输入参数。 |
| GL\_APICALL void GL\_APIENTRY HMS\_XEG\_RenderNeuralUpscale(GLuint inputTexture) | 执行空域AI超分渲染命令。 |

**Vulkan接口：**

| 接口名 | 描述 |
| :-- | :-- |
| VKAPI\_ATTR VkResult VKAPI\_CALL HMS\_XEG\_EnumerateDeviceExtensionProperties(VkPhysicalDevice physicalDevice, uint32\_t \*pPropertyCount, XEG\_ExtensionProperties \*pProperties) | XEngine Vulkan扩展特性查询接口。 |
| VKAPI\_ATTR VkResult VKAPI\_CALL HMS\_XEG\_CreateNeuralUpscale(VkDevice device, const XEG\_NeuralUpscaleCreateInfo \*pCreateInfo, XEG\_NeuralUpscale \*pNeuralUpscale) | 创建XEG\_NeuralUpscale对象。 |
| VKAPI\_ATTR VkResult VKAPI\_CALL HMS\_XEG\_CmdRenderNeuralUpscale(VkCommandBuffer commandBuffer, XEG\_NeuralUpscale neuralUpscale, const XEG\_NeuralUpscaleDescription \*pDescription) | 执行空域AI超分渲染命令。 |
| VKAPI\_ATTR void VKAPI\_CALL HMS\_XEG\_DestroyNeuralUpscale(XEG\_NeuralUpscale neuralUpscale) | 销毁XEG\_NeuralUpscale对象。 |

#### 业务流程

*   下面是基于OpenGL ES图形API平台集成空域AI超分的主要业务流程
    
    ![](https://contentcenter-vali-drcn.dbankcdn.cn/pvt_2/DeveloperAlliance_scene_100_1/a0/v3/jRrUfpT8Roqv6-ZgKfwHLA/zh-cn_image_0000002634009478.jpg?HW-CC-KV=V1&HW-CC-Date=20260709T132555Z&HW-CC-Expire=86400&HW-CC-Sign=DE163EDFA566ACC91F8C160439B917176DF13861289AB54D59468864259FDBB5)
    

1.  用户在进入游戏初始化场景时调用HMS\_XEG\_GetString接口查询XEngine支持的特性，当查询接口返回支持的特性列表中包含空域AI超分时代表可以使用此特性。
2.  初始化场景，空域AI超分的输入纹理需要使用OH\_NativeBuffer来创建。
3.  调用HMS\_XEG\_NeuralUpscaleParameter接口配置超分参数，包含超分输入纹理对应的OH\_NativeBuffer句柄。
4.  游戏运行时，每帧先渲染待超分的纹理。
5.  调用HMS\_XEG\_RenderNeuralUpscale接口执行超分，超分结果会写出到当前绑定的帧缓冲。
6.  渲染后续流程，如UI。
7.  当前帧已全部渲染完成，进行送显。
8.  当游戏退出时，释放游戏创建的资源，XEngine内部资源会自行释放。

*   下面是基于Vulkan图形API平台集成空域AI超分的主要业务流程
    
    ![](https://contentcenter-vali-drcn.dbankcdn.cn/pvt_2/DeveloperAlliance_scene_100_1/04/v3/ACIEl5N4T6C99N18dvXU-A/zh-cn_image_0000002664208627.jpg?HW-CC-KV=V1&HW-CC-Date=20260709T132555Z&HW-CC-Expire=86400&HW-CC-Sign=B2AB9E30ADBDA556029A2E96461CC2471418BC1D18AF4C077A1465200E100D2B)
    

1.  用户在进入游戏初始化场景时调用HMS\_XEG\_EnumerateDeviceExtensionProperties接口查询XEngine支持的特性，当查询接口返回支持的特性列表中包含空域AI超分时代表可以使用此特性。
2.  调用HMS\_XEG\_CreateNeuralUpscale接口创建超分实例。
3.  当游戏运行时，游戏渲染待超分的当前帧纹理。
4.  当待超分纹理渲染完成时，调用HMS\_XEG\_CmdRenderNeuralUpscale接口对待超分的纹理超分。
5.  当超分渲染完成时，游戏渲染剩下的纹理，如UI等。
6.  当前帧已全部渲染完成，进行送显。
7.  当游戏退出时，调用HMS\_XEG\_DestroyNeuralUpscale接口销毁超分实例。

#### 开发步骤

本章以OpenGL ES和Vulkan图像API集成为例，说明XEngine集成操作过程。

#### \[h2\]配置项目

编译HAP时，Native层so编译需要依赖NDK中的libxengine.so。

*   头文件引用
    
    按需引用XEngine的头文件，如使用OpenGL ES空域AI超分。
    
    #include <cstring>
    #include <cstdlib>
    #include <EGL/egl.h>
    #include <EGL/eglext.h>
    #include <GLES2/gl2.h>
    #include <GLES2/gl2ext.h>
    #include <xengine/xeg\_gles\_extension.h>
    #include <xengine/xeg\_gles\_neural\_upscale.h>
    #include <native\_buffer/native\_buffer.h>
    #include <native\_window/external\_window.h>
    
    按需引用XEngine的头文件，如使用Vulkan空域AI超分。
    
    #include <string>
    #include <vector>
    #include <algorithm>
    #include <xengine/xeg\_vulkan\_extension.h>
    #include <xengine/xeg\_vulkan\_neural\_upscale.h>
    
*   编写CMakeLists.txt
    
    按需引用XEngine的CMakeLists，如使用OpenGL ES空域AI超分功能，CMakeLists.txt部分示例代码如下，完整示例代码请参见[Demo（GPU加速引擎-GLES）](https://gitcode.com/harmonyos_samples/xengine-samplecode-gles-demo-cpp)。
    
    find\_library(
        # 设置路径变量的名称。
        native-buffer-lib
        # 指定希望CMake定位的NDK库的名称。
        native\_buffer
    )
    find\_library(
        # 设置路径变量的名称。
        native-window-lib
        # 指定希望CMake定位的NDK库的名称。
        native\_window
    )
    find\_library(
        # 设置路径变量的名称。
        xengine-lib
        # 指定希望CMake定位的NDK库的名称。
        xengine
    )
    find\_library(
        # 设置路径变量的名称。
        EGL-lib
        # 指定希望CMake定位的NDK库的名称。
        EGL
    )
    find\_library(
        # 设置路径变量的名称。
        GLES-lib
        # 指定希望CMake定位的NDK库的名称。
        GLESv3
    )
     
    target\_link\_libraries(nativerender PUBLIC
    ${EGL-lib} ${GLES-lib} ${xengine-lib} ${native-window-lib} ${native-buffer-lib})
    
    按需引用XEngine的CMakeLists，如使用Vulkan空域AI超分功能，CMakeLists.txt部分示例代码如下，完整示例代码请参见[Demo（GPU加速引擎-Vulkan）](https://gitcode.com/harmonyos_samples/xengine-samplecode-vulkan-demo-cpp)。
    
     find\_library(
        # 设置路径变量的名称。
        hilog-lib
        # 指定希望CMake定位的NDK库的名称。
        hilog\_ndk.z
     )
     find\_library(
        # 设置路径变量的名称。
        libace-lib
        # 指定希望CMake定位的NDK库的名称。
        ace\_ndk.z
     )
     find\_library(
        # 设置路径变量的名称。
        libnapi-lib
        # 指定希望CMake定位的NDK库的名称。
        ace\_napi.z
     )
     find\_library(
        # 设置路径变量的名称。
        libuv-lib
        # 指定希望CMake定位的NDK库的名称。
        uv
     )
     find\_library(
        # 设置路径变量的名称。
        xengine-lib
        # 指定希望CMake定位的NDK库的名称。
        xengine
     )
     add\_library(libassimp SHARED IMPORTED)
     set\_target\_properties(
           libassimp
           PROPERTIES
           IMPORTED\_LOCATION
           ${CMAKE\_CURRENT\_SOURCE\_DIR}/libs/arm64-v8a/libassimp.so
     )
     target\_link\_libraries(nativerender PUBLIC
        ${hilog-lib} ${libace-lib} ${libnapi-lib} ${libuv-lib} libnative\_window.so libc++.a libktx librawfile.z.so libassimp ${xengine-lib})
    

#### \[h2\]集成XEngine空域AI超分（OpenGL ES）

Native层实现使用OpenGL ES和XEngine图形API搭建图像渲染管线并集成空域AI超分，渲染结果通过[XComponent](https://developer.huawei.com/consumer/cn/doc/harmonyos-references/ts-basic-components-xcomponent)组件显示到屏幕。

本节阐述OpenGL ES图形API的空域AI超分的使用，详细代码请参见[Demo（GPU加速引擎-GLES）](https://gitcode.com/harmonyos_samples/xengine-samplecode-gles-demo-cpp)。

在调用XEngine Kit能力前，需要先通过[Syscap](https://developer.huawei.com/consumer/cn/doc/harmonyos-references/syscap#什么是systemcapabilitysyscap)查询您的目标设备是否支持SystemCapability.Graphic.XEngine系统能力。

1.  调用[HMS\_XEG\_GetString](https://developer.huawei.com/consumer/cn/doc/harmonyos-references/xengine-kit-xengine#hms_xeg_getstring)接口，获取XEngine支持的扩展信息，只有在支持[XEG\_NEURAL\_UPSCALE\_EXTENSION\_NAME](https://developer.huawei.com/consumer/cn/doc/harmonyos-references/xengine-kit-xengine#xeg_neural_upscale_extension_name)扩展时才可以使用空域AI超分的相关接口。
    
    // 查询XEngine支持的GLES扩展信息
    const char\* extensions = (const char\*)HMS\_XEG\_GetString(XEG\_EXTENSIONS);
    // 检查是否支持空域AI超分
    if (!strstr(extensions, XEG\_NEURAL\_UPSCALE\_EXTENSION\_NAME)) {
        exit(1); // 异常退出
    }
    
2.  创建输入纹理，并关联一个OH\_NativeBuffer。
    
    // 渲染宽高和送显宽高均为用户自定义参数，这里以将800\*600的分辨率进行1.5倍超分到1200\*900的分辨率为例
    uint32\_t renderWidth = 800;
    uint32\_t renderHeight = 600;
    uint32\_t displayWidth = 1200;
    uint32\_t displayHeight = 900;
    // 获取函数指针
    PFNEGLCREATEIMAGEKHRPROC fp\_eglCreateImageKHR = reinterpret\_cast<PFNEGLCREATEIMAGEKHRPROC>(eglGetProcAddress("eglCreateImageKHR"));
    PFNEGLDESTROYIMAGEKHRPROC fp\_eglDestroyImageKHR = reinterpret\_cast<PFNEGLDESTROYIMAGEKHRPROC>(eglGetProcAddress("eglDestroyImageKHR"));
    PFNGLEGLIMAGETARGETTEXTURE2DOESPROC fp\_glEGLImageTargetTexture2DOES = reinterpret\_cast<PFNGLEGLIMAGETARGETTEXTURE2DOESPROC>(eglGetProcAddress("glEGLImageTargetTexture2DOES"));
    // 创建OH\_NativeBuffer
    OH\_NativeBuffer\_Config config = {};
    config.width = renderWidth;
    config.height = renderHeight;
    config.usage = NATIVEBUFFER\_USAGE\_CPU\_READ | NATIVEBUFFER\_USAGE\_CPU\_READ\_OFTEN | NATIVEBUFFER\_USAGE\_HW\_TEXTURE | NATIVEBUFFER\_USAGE\_HW\_RENDER| NATIVEBUFFER\_USAGE\_ALIGNMENT\_512;
    config.format = NATIVEBUFFER\_PIXEL\_FMT\_RGBA\_8888;
    OH\_NativeBuffer\* bufferHandle = OH\_NativeBuffer\_Alloc(&config);
    if (bufferHandle == nullptr) {
        // 创建失败，用户可自定义错误处理
    }
    OHNativeWindowBuffer \*nativeWindowBuffer = OH\_NativeWindow\_CreateNativeWindowBufferFromNativeBuffer(bufferHandle);
    EGLImageKHR eglImage = fp\_eglCreateImageKHR(eglGetCurrentDisplay(), EGL\_NO\_CONTEXT, EGL\_NATIVE\_BUFFER\_OHOS, static\_cast<EGLClientBuffer>(nativeWindowBuffer), nullptr);
    // 创建超分输入纹理
    GLuint textureID;
    glGenTextures(1, &textureID);
    glBindTexture(GL\_TEXTURE\_2D, textureID);
    // 设置纹理环绕和过滤参数
    glTexParameteri(GL\_TEXTURE\_2D, GL\_TEXTURE\_WRAP\_S, GL\_REPEAT);
    glTexParameteri(GL\_TEXTURE\_2D, GL\_TEXTURE\_WRAP\_T, GL\_REPEAT);
    glTexParameteri(GL\_TEXTURE\_2D, GL\_TEXTURE\_MIN\_FILTER, GL\_NEAREST);
    glTexParameteri(GL\_TEXTURE\_2D, GL\_TEXTURE\_MAG\_FILTER, GL\_NEAREST);
    // 关联超分输入纹理和eglImage
    fp\_glEGLImageTargetTexture2DOES(GL\_TEXTURE\_2D, eglImage);
    
3.  在超分输入纹理上进行渲染。
    
    GLuint fboID = 0;
    glGenFramebuffers(1, &fboID);
    glBindFramebuffer(GL\_FRAMEBUFFER, fboID);
    glFramebufferTexture2D(GL\_FRAMEBUFFER, GL\_COLOR\_ATTACHMENT0, GL\_TEXTURE\_2D, textureID, 0);
    if (glCheckFramebufferStatus(GL\_FRAMEBUFFER) != GL\_FRAMEBUFFER\_COMPLETE) {
        // 创建framebuffer失败，用户可自定义错误处理
    }
    glViewport(0, 0, renderWidth, renderHeight);
    
4.  调用[HMS\_XEG\_NeuralUpscaleParameter](https://developer.huawei.com/consumer/cn/doc/harmonyos-references/xengine-kit-xengine#hms_xeg_neuralupscaleparameter)接口，设置空域AI超分的输入参数。
    
    // sharpness为用户自定义超分锐化参数，此处以参数为0.3f为例
    float sharpness = 0.3f;
    HMS\_XEG\_NeuralUpscaleParameter(XEG\_NEURAL\_UPSCALE\_SHARPNESS, &sharpness);
    // inputScissor为超分输入纹理的裁剪窗口参数
    GLuint inputScissor\[4\] = {0, 0, renderWidth, renderHeight};
    HMS\_XEG\_NeuralUpscaleParameter(XEG\_NEURAL\_UPSCALE\_SCISSOR, inputScissor);
    // 设置超分输入纹理对应的OH\_NativeBuffer句柄
    HMS\_XEG\_NeuralUpscaleParameter(XEG\_NEURAL\_UPSCALE\_INPUT\_HANDLE, bufferHandle);
    
5.  调用[HMS\_XEG\_RenderNeuralUpscale](https://developer.huawei.com/consumer/cn/doc/harmonyos-references/xengine-kit-xengine#hms_xeg_renderneuralupscale)接口执行空域AI超分。
    
    // 绑定绘制超分结果的帧缓冲，此处使用默认帧缓冲，也可使用用户自定义帧缓冲
    glBindFramebuffer(GL\_FRAMEBUFFER, 0);
    glViewport(0, 0, displayWidth, displayHeight);
    // 执行空域AI超分
    HMS\_XEG\_RenderNeuralUpscale(textureID);
    
6.  不需要进行超分渲染时，销毁相关资源。
    
    glDeleteFramebuffers(1, &fboID);
    glDeleteTextures(1, &textureID);
    if (eglImage != nullptr) {
       fp\_eglDestroyImageKHR(eglGetCurrentDisplay(), eglImage);
    }
    if (nativeWindowBuffer != nullptr) {
       OH\_NativeWindow\_DestroyNativeWindowBuffer(nativeWindowBuffer);
    }
    if (bufferHandle != nullptr) {
       OH\_NativeBuffer\_Unreference(bufferHandle);
    }
    

#### \[h2\]集成XEngine空域AI超分（Vulkan）

使用Vulkan图形API搭建图像渲染管线并集成空域AI超分在Native层实现，渲染结果通过[XComponent](https://developer.huawei.com/consumer/cn/doc/harmonyos-references/ts-basic-components-xcomponent)组件显示到屏幕。

本节阐述Vulkan图形API的空域AI超分使用，详细代码请参见[Demo（GPU加速引擎-Vulkan）](https://gitcode.com/harmonyos_samples/xengine-samplecode-vulkan-demo-cpp)。

在调用XEngine Kit能力前，需要先通过[Syscap](https://developer.huawei.com/consumer/cn/doc/harmonyos-references/syscap#什么是systemcapabilitysyscap)查询您的目标设备是否支持SystemCapability.Graphic.XEngine系统能力。

1.  调用[HMS\_XEG\_EnumerateDeviceExtensionProperties](https://developer.huawei.com/consumer/cn/doc/harmonyos-references/xengine-kit-xengine#hms_xeg_enumeratedeviceextensionproperties)接口，获取XEngine支持的扩展信息，只有在支持XEG\_NEURAL\_UPSCALE\_EXTENSION\_NAME扩展时才可以使用空域AI超分的相关接口。
    
    // physicalDevice为Vulkan物理设备，用户需进行初始化
    VkPhysicalDevice physicalDevice;
    // 查询XEngine支持的Vulkan扩展列表
    std::vector<std::string> supportedExtensions;
    uint32\_t pPropertyCount;
    HMS\_XEG\_EnumerateDeviceExtensionProperties(physicalDevice, &pPropertyCount, nullptr);
    if (pPropertyCount > 0) {
        std::vector<XEG\_ExtensionProperties> pProperties(pPropertyCount);
        if (HMS\_XEG\_EnumerateDeviceExtensionProperties(physicalDevice, &pPropertyCount, &pProperties.front()) == VK\_SUCCESS) {
            for (auto ext : pProperties) {
                 supportedExtensions.push\_back(ext.extensionName);
             }
        }
    }
    // 查询是否支持空域AI超分
    if (std::find(supportedExtensions.begin(), supportedExtensions.end(), XEG\_NEURAL\_UPSCALE\_EXTENSION\_NAME) == supportedExtensions.end()) {
        exit(1); // 异常退出
    }
    
2.  声明实例句柄。
    
    XEG\_NeuralUpscale xegNeuralUpscale;
    
3.  调用[HMS\_XEG\_CreateNeuralUpscale](https://developer.huawei.com/consumer/cn/doc/harmonyos-references/xengine-kit-xengine#hms_xeg_createneuralupscale)接口，创建超分实例。
    
    // 渲染宽高和超分后宽高均为用户自定义参数，此处以将800\*600分辨率超分至1200\*900分辨率为例
    uint32\_t m\_renderWidth = 800;
    uint32\_t m\_renderHeight = 600;
    uint32\_t m\_upscaleWidth = 1200;
    uint32\_t m\_upscaleHeight = 900;
    // Vulkan逻辑设备，用户需进行初始化
    VkDevice device = VK\_NULL\_HANDLE;
    // VkRect2D为Vulkan指定的二维区域结构
    // srcRect2D为超分输入纹理区域，用户可自定义
    VkRect2D srcRect2D;
    // srcRect2D.offset.x和srcRect2D.offset.y为原点偏移量
    srcRect2D.offset.x = 0;
    srcRect2D.offset.y = 0;
    // srcRect2D.extent.width与srcRect2D.extent.height为输入纹理采样区域宽高
    srcRect2D.extent.width = m\_renderWidth;
    srcRect2D.extent.height = m\_renderHeight;
    // dstRect2D为超分输出纹理区域，用户可自定义
    VkRect2D dstRect2D;
    // dstRect2D.offset.x和dstRect2D.offset.y为原点偏移量
    dstRect2D.offset.x = 0;
    dstRect2D.offset.y = 0;
    // dstRect2D.extent.width与dstRect2D.extent.height为超分纹理写入区域宽高
    dstRect2D.extent.width = m\_upscaleWidth;
    dstRect2D.extent.height = m\_upscaleHeight;
    XEG\_NeuralUpscaleCreateInfo createInfo;
    createInfo.sType = XEG\_STRUCTURE\_TYPE\_NEURAL\_UPSCALE\_CREATE\_INFO;
    createInfo.pNext = nullptr;
    createInfo.inputRegion = srcRect2D;
    createInfo.outputRegion = dstRect2D;
    createInfo.inputSize = srcRect2D.extent;
    createInfo.outputSize = dstRect2D.extent;
    createInfo.outputFormat = VK\_FORMAT\_R8G8B8A8\_UNORM;
    VkResult result = HMS\_XEG\_CreateNeuralUpscale(device, &createInfo, &xegNeuralUpscale);
    if (result != VK\_SUCCESS) {
        // 异常退出
    }
    
4.  调用[HMS\_XEG\_CmdRenderNeuralUpscale](https://developer.huawei.com/consumer/cn/doc/harmonyos-references/xengine-kit-xengine#hms_xeg_cmdrenderneuralupscale)接口下发超分，每帧都需要调用。
    
    // inputImageView为用户创建的超分输入图像的VkImageView
    VkImageView inputImageView = VK\_NULL\_HANDLE;
    // outputImageView为用户创建的超分输出图像的VkImageView
    VkImageView outputImageView = VK\_NULL\_HANDLE;
    // cmdBuff为命令缓冲区，用户需进行初始化
    VkCommandBuffer cmdBuff = VK\_NULL\_HANDLE;
    XEG\_NeuralUpscaleDescription description;
    description.sType = XEG\_STRUCTURE\_TYPE\_NEURAL\_UPSCALE\_DESCRIPTION;
    description.pNext = nullptr;
    description.inputImage = inputImageView;
    description.outputImage = outputImageView;
    // sharpness为用户自定义超分锐化参数，此处以参数为0.5f为例
    description.sharpness = 0.5f;
    VkResult res = HMS\_XEG\_CmdRenderNeuralUpscale(cmdBuff, xegNeuralUpscale, &description);
    if (res != VK\_SUCCESS) {
        // 异常退出
    }
    
5.  调用[HMS\_XEG\_DestroyNeuralUpscale](https://developer.huawei.com/consumer/cn/doc/harmonyos-references/xengine-kit-xengine#hms_xeg_destroyneuralupscale)接口销毁实例。
    
    HMS\_XEG\_DestroyNeuralUpscale(xegNeuralUpscale);