news 2026/8/1 5:16:09

【Triton 教程】triton_language.load

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
【Triton 教程】triton_language.load

Triton 是一种用于并行编程的语言和编译器。它旨在提供一个基于 Python 的编程环境,以高效编写自定义 DNN 计算内核,并能够在现代 GPU 硬件上以最大吞吐量运行。

更多 Triton 中文文档可访问 →triton.hyper.ai/

triton.language.load(pointer, mask=None, other=None, boundary_check=(), padding_option='', cache_modifier='', eviction_policy='', volatile=False)

返回 1 个数据张量,其值从由指针所定义的内存位置处加载:

1.如果pointer是单元素指针,则加载 1 个标量。在这种情况下:

  • maskother必须也是标量,
  • other会隐式地转换为pointer.dtype.element_ty类型,
  • boundary_checkpadding_option必须为空。

2.如果pointer是 1 个 N 维指针张量,则加载 1 个 N 维张量。在这种情况下:

  • maskother会被隐式地广播到pointer.shape
  • other会隐式地转换为pointer.dtype.element_ty类型,
  • boundary_checkpadding_option必须为空。

3.如果pointer是由make_block_ptr定义的块指针,则加载 1 个张量。在这种情况下:

  • maskother必须为None
  • 可以指定boundary_checkpadding_option来控制超出越界访问的行为。

参数**:**

  • pointertriton.PointerType*,*或 dtype=triton.PointerType 的块)- 指向要加载的数据的指针。
  • masktriton.int1 的块*,*可选)- 如果 mask[idx] 为 false,则不加载 pointer[idx] 处的数据(对于块指针必须为 None)。
  • other(,可选) - 如果 mask[idx] 为 false,则返回 other[idx]。
  • boundary_check整数元组*,*可选)- 表示应进行边界检查维度的元组。
  • padding_option- 应为 {“”, “zero”, “nan”} 中的一个,越界时进行填充。
  • cache_modifier**(*str,可选,*应为 {“”, “ca”, “cg”} 中的一个)- 其中「ca」表示在所有层级进行缓存,「cg」表示在全局层级缓存(在 L2 及以下缓存,不是 L1),详细信息请参见缓存操作符。)在 NVIDIA PTX 中更改缓存选项。
  • eviction_policystr,可选)- 更改 NVIDIA PTX 中的驱逐策略。
  • volatilebool,可选)- 更改 NVIDIA PTX 中的易失性选项。
版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/7/29 8:16:34

腾讯云国际站代理商的QAPM服务能提供哪些专属服务?

腾讯云国际站代理商提供的 QAPM(客户端性能分析)服务,在腾讯云 QAPM 产品本身功能基础上,叠加了适配出海业务的专属增值服务,涵盖成本优惠、技术定制、运维保障等多个维度,具体如下:成本优化专属…

作者头像 李华
网站建设 2026/7/31 23:31:56

量子计算验证方法:软件测试从业者的转型指南

量子计算作为新兴技术,正逐步从理论走向实践,但其非经典特性(如叠加和纠缠)对传统软件测试方法构成了根本性挑战。软件测试从业者习惯于处理经典二进制系统,而量子计算引入了概率性、状态坍缩和环境敏感性等复杂因素&a…

作者头像 李华
网站建设 2026/7/31 12:44:51

突破 Oracle/MySQL 瓶颈:金仓数据库以三重革新,筑牢业务转型 “数据底座”

兼容 是对企业历史投资的尊重 是确保业务平稳过渡的基石 然而 这仅仅是故事的起点 在数字化转型的深水区,企业对数据库的需求早已超越“语法兼容”的基础诉求。无论是核心业务系统的稳定运行,还是敏感数据的安全防护,亦或是复杂场景下的性能优…

作者头像 李华