(中文版) AL-GR/Item-EMB: 多模态物品表征
数据集摘要
本仓库 AL-GR/Item-EMB
是主数据集 AL-GR
的一个配套数据集。它包含了 AL-GR
行为序列中出现的超过5亿个物品的 512维多模态表征(Embedding)。
每个物品都由一个唯一的ID(base62_string
)及其对应的向量表征组成。为了兼容CSV等文本格式,所有的 float32
向量都被编码为了 Base64 字符串。
本数据集可用于:
- 在传统或多模态推荐模型中,初始化物品的嵌入层。
- 对物品的语义空间进行分析(如聚类、可视化等)。
- 将
AL-GR
数据集中的抽象语义ID与其背后丰富的向量表征关联起来。
使用方法
使用本数据集的核心步骤是将 feature
字段的字符串解码回 NumPy 向量。以下是一个完整的示例,展示了如何加载数据并执行解码操作。
import base64
import numpy as np
from datasets import load_dataset
def decode_embedding(base64_string: str) -> np.ndarray:
"""将一个Base64字符串解码为512维的NumPy向量。"""
# 从Base64解码,将其解释为float32的缓冲区,然后重塑形状。
return np.frombuffer(
base64.b64decode(base64_string),
dtype=np.float32
).reshape(-1)
# 1. 从Hugging Face Hub加载数据集
# 注意:请将 [your-username] 替换为实际的用户名
dataset = load_dataset("AL-GR/Item-EMB")
# 2. 从数据集中获取一个样本
sample = dataset['train'][0]
item_id = sample['base62_string']
encoded_feature = sample['feature']
print(f"物品ID: {item_id}")
print(f"编码后的表征 (前50个字符): {encoded_feature[:50]}...")
# 3. 将特征字符串解码为向量
embedding_vector = decode_embedding(encoded_feature)
# 4. 验证结果
print(f"解码后的向量形状: {embedding_vector.shape}")
print(f"解码后的向量数据类型: {embedding_vector.dtype}")
print(f"向量的前5个元素: {embedding_vector[:5]}")
# 预期输出:
# 物品ID: OvgEI
# 编码后的表征 (前50个字符): BHP0ugrXIz3gLZC8bjQAVwnjCD3g1t27FCLgvF66yT14C6S9Aw...
# 解码后的向量形状: (512,)
# 解码后的向量数据类型: float32
# 向量的前5个元素: [ ...numpy数组的值... ]
数据集结构
数据字段
base62_string
(string): 物品的唯一标识符。此ID与AL-GR
生成式推荐数据集中的语义物品ID相对应。feature
(string): 物品512维多模态表征的 Base64编码 字符串。
数据划分
数据集划分 | 样本数量 |
---|---|
train |
~5.07亿 |
引文信息
如果您在研究中使用了本数据集,请引用:
许可协议
本数据集采用 [例如:Apache License 2.0] 许可协议。