UTLLM-Eval
Collection
phase1の評価に使用したデータセット
•
4 items
•
Updated
This repository is publicly accessible, but you have to accept the conditions to access its files and content.
以下の条件に同意したうえで、公開されたモデル及びデータセット等(以下「本コンテンツ」)といいます)をダウンロードします。
Log in or Sign Up to review the conditions and access this dataset content.
ARC-Challengeからランダムに50サンプル、ARC-Easyからランダムに50サンプルの計100サンプル抽出し、日本語に翻訳したものです。
ファイルサイズ: 65.7 kB
サンプルの例は以下のようになります。
{
"id": "Mercury_7137165",
"question": "物体の加速に最も影響を与えるのはどの特徴ですか?",
"choices": {
"text": [
"質量",
"速さ",
"質感",
"体積"
],
"label": [
"A",
"B",
"C",
"D"
]
},
"answerKey": "A",
"category": "challenge"
}
cc-by-sa-4.0
@article{allenai:arc,
author = {Peter Clark and Isaac Cowhey and Oren Etzioni and Tushar Khot and
Ashish Sabharwal and Carissa Schoenick and Oyvind Tafjord},
title = {Think you have Solved Question Answering? Try ARC, the AI2 Reasoning Challenge},
journal = {arXiv:1803.05457v1},
year = {2018},
}