gte-legal-v5 / README.md
Tnt3o5's picture
Add new SentenceTransformer model
7136d95 verified
metadata
base_model: Tnt3o5/gte_legal_v3
library_name: sentence-transformers
pipeline_tag: sentence-similarity
tags:
  - sentence-transformers
  - sentence-similarity
  - feature-extraction
  - generated_from_trainer
  - dataset_size:120952
  - loss:MatryoshkaLoss
  - loss:MultipleNegativesRankingLoss
widget:
  - source_sentence: >-
      Ai có quyền quyết_định phong quân hàm_cấp tướng đối_với Chính_ủy Bộ
      Tư_lệnh Tác_chiến không_gian mạng ?
    sentences:
      - >-
        Nghĩa_vụ nộp chi_phí cho người làm_chứng Tòa_án căn_cứ vào Khoản_1 và
        Khoản 2_Điều này quyết_định nghĩa_vụ nộp chi_phí cho người làm_chứng ,
        hoàn_trả lại chi_phí cho các bên đương_sự trong bản_án , quyết_định .
      - >-
        Thủ_tục cấp mã_số AEP Tổ_chức , cá_nhân có các quyền_lợi quốc_tế đối_với
        tàu_bay mang quốc_tịch Việt_Nam đề_nghị cấp mã_số AEP gửi hồ_sơ
        trực_tiếp , qua hệ_thống bưu_chính hoặc bằng các hình_thức phù_hợp khác
        đến Cục Hàng_không Việt_Nam và phải chịu trách_nhiệm về tính trung_thực
        , chính_xác của các thông_tin ghi trong hồ_sơ .
      - >-
        Thẩm_quyền quyết_định đối_với sĩ_quan Thẩm_quyền bổ_nhiệm , miễn_nhiệm ,
        cách_chức , phong , thăng , giáng , tước quân_hàm đối_với sĩ_quan được
        quy_định như sau : Chủ_tịch_nước bổ_nhiệm , miễn_nhiệm , cách_chức
        Tổng_Tham_mưu_trưởng , Chủ_nhiệm Tổng_Cục_Chính_trị ; phong , thăng ,
        giáng , tước quân_hàm Cấp tướng , Chuẩn Đô_đốc , Phó Đô_đốc , Đô_đốc
        Hải_quân ; Thủ_tướng_Chính_phủ bổ_nhiệm , miễn_nhiệm , cách_chức
        Thứ_trưởng ; Phó_Tổng_Tham_mưu_trưởng , Phó Chủ_nhiệm Tổng_Cục_Chính_trị
        ; Giám_đốc , Chính_ủy Học_viện Quốc_phòng ; Chủ_nhiệm Tổng_cục , Tổng
        cục_trưởng , Chính_ủy Tổng_cục ; Tư_lệnh , Chính_ủy Quân_khu ; Tư_lệnh ,
        Chính_ủy Quân_chủng ; Tư_lệnh , Chính_ủy Bộ_đội Biên_phòng ; Tư_lệnh ,
        Chính_ủy Cảnh_sát biển Việt_Nam ; Trưởng_Ban Cơ_yếu Chính_phủ và các
        chức_vụ khác theo quy_định của Cấp có thẩm_quyền ;
        Bộ_trưởng_Bộ_Quốc_phòng bổ_nhiệm , miễn_nhiệm , cách_chức các chức_vụ và
        phong , thăng , giáng , tước các Cấp_bậc quân_hàm còn lại và nâng lương
        sĩ_quan ; Việc bổ_nhiệm , miễn_nhiệm , cách_chức các chức_vụ thuộc ngành
        Kiểm_sát , Toà_án , Thi_hành án trong quân_đội được thực_hiện theo
        quy_định của pháp_luật . Cấp có thẩm_quyền quyết_định bổ_nhiệm đến
        chức_vụ nào thì có quyền miễn_nhiệm , cách_chức , giáng chức ,
        quyết_định kéo_dài thời_hạn phục_vụ tại_ngũ , điều_động , biệt_phái ,
        giao chức_vụ thấp hơn , cho thôi phục_vụ tại_ngũ , chuyển ngạch và giải
        ngạch sĩ_quan dự_bị đến chức_vụ đó .
  - source_sentence: Ai  thẩm_quyền bổ_nhiệm Bộ_trưởng Bộ_Văn_hóa_Thể_thao_và_Du_lịch ?
    sentences:
      - >-
        Thẩm_quyền quyết_định đối_với sĩ_quan Thẩm_quyền bổ_nhiệm , miễn_nhiệm ,
        cách_chức , phong , thăng , giáng , tước quân_hàm đối_với sĩ_quan được
        quy_định như sau : Chủ_tịch_nước bổ_nhiệm , miễn_nhiệm , cách_chức
        Tổng_Tham_mưu_trưởng , Chủ_nhiệm Tổng_Cục_Chính_trị ; phong , thăng ,
        giáng , tước quân_hàm Cấp tướng , Chuẩn Đô_đốc , Phó Đô_đốc , Đô_đốc
        Hải_quân ; Thủ_tướng_Chính_phủ bổ_nhiệm , miễn_nhiệm , cách_chức
        Thứ_trưởng ; Phó_Tổng_Tham_mưu_trưởng , Phó Chủ_nhiệm Tổng_Cục_Chính_trị
        ; Giám_đốc , Chính_ủy Học_viện Quốc_phòng ; Chủ_nhiệm Tổng_cục , Tổng
        cục_trưởng , Chính_ủy Tổng_cục ; Tư_lệnh , Chính_ủy Quân_khu ; Tư_lệnh ,
        Chính_ủy Quân_chủng ; Tư_lệnh , Chính_ủy Bộ_đội Biên_phòng ; Tư_lệnh ,
        Chính_ủy Cảnh_sát biển Việt_Nam ; Trưởng_Ban Cơ_yếu Chính_phủ và các
        chức_vụ khác theo quy_định của Cấp có thẩm_quyền ;
        Bộ_trưởng_Bộ_Quốc_phòng bổ_nhiệm , miễn_nhiệm , cách_chức các chức_vụ và
        phong , thăng , giáng , tước các Cấp_bậc quân_hàm còn lại và nâng lương
        sĩ_quan ; Việc bổ_nhiệm , miễn_nhiệm , cách_chức các chức_vụ thuộc ngành
        Kiểm_sát , Toà_án , Thi_hành án trong quân_đội được thực_hiện theo
        quy_định của pháp_luật . Cấp có thẩm_quyền quyết_định bổ_nhiệm đến
        chức_vụ nào thì có quyền miễn_nhiệm , cách_chức , giáng chức ,
        quyết_định kéo_dài thời_hạn phục_vụ tại_ngũ , điều_động , biệt_phái ,
        giao chức_vụ thấp hơn , cho thôi phục_vụ tại_ngũ , chuyển ngạch và giải
        ngạch sĩ_quan dự_bị đến chức_vụ đó .
      - >-
        “ Vụ Giáo_dục Mầm_non . Vụ Giáo_dục Tiểu_học . Vụ Giáo_dục Trung_học .
        Vụ Giáo_dục Đại_học . Vụ Giáo_dục dân_tộc . Vụ Giáo_dục thường_xuyên .
        Vụ Giáo_dục Quốc_phòng và An_ninh . Vụ Giáo_dục Chính_trị và Công_tác
        học_sinh , sinh_viên . Vụ Giáo_dục thể_chất . Vụ Tổ_chức cán_bộ . Vụ
        Kế_hoạch - Tài_chính . Vụ Khoa_học , Công_nghệ và Môi_trường . Vụ
        Pháp_chế . Vụ Thi_đua - Khen_thưởng . Văn_phòng . Thanh_tra . Cục
        Quản_lý chất_lượng . Cục Nhà_giáo và Cán_bộ quản_lý giáo_dục . Cục
        Công_nghệ thông_tin . Cục Hợp_tác quốc_tế . Cục Cơ_sở vật_chất . Viện
        Khoa_học Giáo_dục Việt_Nam . Học_viện Quản_lý giáo_dục . Trường Cán_bộ
        quản_lý giáo_dục thành_phố Hồ Chí_Minh . Báo Giáo_dục và Thời_đại .
        Tạp_chí Giáo_dục . Các đơn_vị quy_định từ Khoản_1 đến Khoản 21_Điều này
        là các đơn_vị giúp Bộ_trưởng thực_hiện chức_năng quản_lý nhà_nước ; các
        đơn_vị quy_định từ Khoản_22 đến Khoản 26_Điều này là các đơn_vị
        sự_nghiệp trực_thuộc phục_vụ chức_năng quản_lý nhà_nước của bộ .
        Bộ_trưởng Bộ_Giáo_dục_và_Đào_tạo trình Thủ_tướng_Chính_phủ ban_hành
        danh_sách các đơn_vị sự_nghiệp công_lập thuộc bộ . Bộ_trưởng
        Bộ_Giáo_dục_và_Đào_tạo ban_hành quyết_định quy_định chức_năng , nhiệm_vụ
        , quyền_hạn và cơ_cấu tổ_chức của các Vụ , Cục , Thanh_tra , Văn_phòng ,
        đơn_vị sự_nghiệp công_lập và các đơn_vị khác thuộc bộ theo quy_định của
        pháp_luật . Văn_phòng có 06 phòng . Thanh_tra , Cục Quản_lý chất_lượng ,
        Cục Hợp_tác quốc_tế có 04 phòng . Cục Công_nghệ thông_tin , Cục Nhà_giáo
        và Cán_bộ quản_lý giáo_dục , Cục Cơ_sở vật_chất có 03 phòng . "
      - >-
        Điều Chủ_tịch_nước có những nhiệm_vụ và quyền_hạn sau đây : Đề_nghị
        Quốc_hội bầu , miễn_nhiệm , bãi_nhiệm Phó_Chủ_tịch_nước ,
        Thủ_tướng_Chính_phủ ; căn_cứ vào nghị_quyết của Quốc_hội , bổ_nhiệm ,
        miễn_nhiệm , cách_chức Phó_thủ_tướng Chính_phủ , Bộ_trưởng và thành_viên
        khác của Chính_phủ ;
  - source_sentence: >-
      Ai có quyền trở_thành người đại_diện theo pháp_luật của công_ty cổ_phần do
      tổ_chức làm chủ sở_hữu ?
    sentences:
      - >-
        “ Điều Cơ_cấu tổ_chức quản_lý công_ty cổ_phần Trừ trường_hợp pháp_luật
        về chứng_khoán có quy_định khác , công_ty cổ_phần có quyền lựa_chọn
        tổ_chức quản_lý và hoạt_động theo một trong hai mô_hình sau đây : Đại
        hội_đồng cổ_đông , Hội_đồng_quản_trị , Ban kiểm_soát và Giám_đốc hoặc
        Tổng giám_đốc . Trường_hợp công_ty cổ_phần có dưới 11 cổ_đông và các
        cổ_đông là tổ_chức sở_hữu dưới 50 % tổng_số cổ_phần của công_ty thì
        không bắt_buộc phải có Ban kiểm_soát ; Đại hội_đồng cổ_đông ,
        Hội_đồng_quản_trị và Giám_đốc hoặc Tổng giám_đốc . Trường_hợp này
        ít_nhất 20 % số thành_viên Hội_đồng_quản_trị phải là thành_viên độc_lập
        và có Ủy_ban kiểm_toán trực_thuộc Hội_đồng_quản_trị . Cơ_cấu tổ_chức ,
        chức_năng , nhiệm_vụ của Ủy_ban kiểm_toán quy_định tại Điều_lệ công_ty
        hoặc quy_chế_hoạt_động của Ủy_ban kiểm_toán do Hội_đồng_quản_trị
        ban_hành . Trường_hợp công_ty chỉ có một người đại_diện theo pháp_luật
        thì Chủ_tịch Hội_đồng_quản_trị hoặc Giám_đốc hoặc Tổng giám_đốc là người
        đại_diện theo pháp_luật của công_ty . Trường_hợp Điều_lệ chưa có
        quy_định thì Chủ_tịch Hội_đồng_quản_trị là người đại_diện theo pháp_luật
        của công_ty . Trường_hợp công_ty có hơn một người đại_diện theo
        pháp_luật thì Chủ_tịch Hội_đồng_quản_trị và Giám_đốc hoặc Tổng giám_đốc
        đương_nhiên là người đại_diện theo pháp_luật của công_ty . ”
      - >-
        " Điều Nhiệm_vụ , quyền_hạn của Hội_đồng nhân_dân xã Lấy phiếu tín_nhiệm
        , bỏ_phiếu tín_nhiệm đối_với người giữ chức_vụ do Hội_đồng nhân_dân xã
        bầu theo quy_định tại Điều_88 và Điều_89 của Luật này . Bãi_nhiệm
        đại_biểu Hội_đồng nhân_dân xã và chấp_nhận việc đại_biểu Hội_đồng
        nhân_dân xã xin thôi làm nhiệm_vụ đại_biểu . Bãi_bỏ một phần hoặc
        toàn_bộ văn_bản trái pháp_luật của Ủy_ban_nhân_dân , Chủ_tịch
        Ủy_ban_nhân_dân xã . "
      - >-
        Thẩm_quyền yêu_cầu cung_cấp thông_tin Thủ_trưởng cơ_quan thi_hành_án
        dân_sự , Chấp_hành viên có quyền yêu_cầu cơ_quan , tổ_chức đang
        quản_lý_tài_khoản của người phải thi_hành_án ; cơ_quan , tổ_chức , người
        sử_dụng lao_động , Bảo_hiểm xã_hội nơi người phải thi_hành_án nhận
        tiền_lương , tiền công , tiền_lương hưu , tiền trợ_cấp và các thu_nhập
        hợp_pháp khác cung_cấp thông_tin về tài_khoản , thu_nhập của người phải
        thi_hành_án để thực_hiện việc thi_hành_án dân_sự .
  - source_sentence: 13 hành_vi bị nghiêm_cấm về cư_trú   ?
    sentences:
      - >-
        Phê_duyệt phương_thức vận_hành hệ_thống điện Phương_thức vận_hành
        hệ_thống điện phân_phối ( bao_gồm hệ_thống điện phân_phối thuộc quyền
        điều_khiển của Cấp điều_độ phân_phối tỉnh và Cấp điều_độ phân_phối quận
        , huyệ Phương_thức vận_hành hệ_thống điện phân_phối năm do Cấp điều_độ
        phân_phối tỉnh lập trên cơ_sở phương_thức vận_hành hệ_thống điện miền
        năm đã được duyệt , trình Tổng công_ty Điện_lực hoặc Công_ty Điện_lực
        tỉnh phê_duyệt ; Phương_thức vận_hành hệ_thống điện phân_phối tháng ,
        tuần và các phương_thức đặc_biệt do Cấp điều_độ phân_phối tỉnh lập trên
        cơ_sở phương_thức vận_hành hệ_thống điện miền tháng , tuần và các
        phương_thức đặc_biệt đã được duyệt , trình Tổng công_ty Điện_lực hoặc
        Công_ty Điện_lực tỉnh phê_duyệt ; Phương_thức vận_hành hệ_thống điện
        phân_phối ngày do Cấp điều_độ phân_phối tỉnh lập và phê_duyệt trên cơ_sở
        phương_thức vận_hành hệ_thống điện phân_phối tuần đã được duyệt .
      - >-
        Thẩm_quyền công_nhận , kỳ công_nhận báo cáo_viên pháp_luật Báo cáo_viên
        pháp_luật cấp trung_ương là người đang công_tác trong Quân_đội do
        Bộ_trưởng Bộ_Tư_pháp công_nhận theo đề_nghị của Bộ_trưởng_Bộ_Quốc_phòng
        . Báo cáo_viên pháp_luật cấp trực_thuộc Bộ Quốc_phòng do
        Bộ_trưởng_Bộ_Quốc_phòng công_nhận . Báo cáo_viên pháp_luật cấp đơn_vị do
        thủ_trưởng cơ_quan , đơn_vị cấp trên trực_tiếp công_nhận . Công_nhận báo
        cáo_viên pháp_luật được thực_hiện vào tháng 6 và tháng 12 hàng năm .
      - >-
        " Điều Các hành_vi bị nghiêm_cấm về cư_trú Cản_trở công_dân thực_hiện
        quyền tự_do cư_trú . Lạm_dụng việc sử_dụng thông_tin về nơi thường_trú ,
        nơi tạm_trú làm điều_kiện để hạn_chế quyền , lợi_ích hợp_pháp của
        công_dân . Đưa , môi_giới , nhận hối_lộ trong việc đăng_ký , quản_lý
        cư_trú . Không tiếp_nhận , trì_hoãn việc tiếp_nhận hồ_sơ , giấy_tờ ,
        tài_liệu , thông_tin đăng_ký cư_trú hoặc có hành_vi nhũng_nhiễu khác ;
        không thực_hiện , thực_hiện không đúng thời_hạn đăng_ký cư_trú cho
        công_dân khi hồ_sơ đủ điều_kiện đăng_ký cư_trú ; xóa đăng_ký thường_trú
        , đăng_ký tạm_trú trái với quy_định của pháp_luật . Thu , quản_lý ,
        sử_dụng lệ_phí đăng_ký cư_trú trái với quy_định của pháp_luật . Tự đặt
        ra thời_hạn , thủ_tục , giấy_tờ , tài_liệu , biểu_mẫu trái với quy_định
        của pháp_luật hoặc làm sai_lệch thông_tin , sổ_sách , hồ_sơ về cư_trú .
        Cố_ý cấp hoặc từ_chối cấp giấy_tờ , tài_liệu về cư_trú trái với quy_định
        của pháp_luật . Lợi_dụng việc thực_hiện quyền tự_do cư_trú để xâm_phạm
        lợi_ích của Nhà_nước , quyền , lợi_ích hợp_pháp của tổ_chức , cá_nhân .
        Làm giả giấy_tờ , tài_liệu , dữ_liệu về cư_trú ; sử_dụng giấy_tờ ,
        tài_liệu , dữ_liệu giả về cư_trú ; cung_cấp thông_tin , giấy_tờ ,
        tài_liệu sai sự_thật về cư_trú ; khai man điều_kiện , giả_mạo hồ_sơ ,
        giấy_tờ , tài_liệu để được đăng_ký thường_trú , đăng_ký tạm_trú ; mua ,
        bán , Thuê , cho Thuê , mượn , cho mượn , cầm_cố , nhận cầm_cố ,
        hủy_hoại giấy_tờ , tài_liệu về cư_trú . Tổ_chức , kích_động , xúi_giục ,
        lôi_kéo , dụ_dỗ , giúp_sức , cưỡng_bức người khác vi_phạm_pháp_luật về
        cư_trú . Giải_quyết cho đăng_ký thường_trú , đăng_ký tạm_trú khi biết rõ
        người đăng_ký thường_trú , đăng_ký tạm_trú không sinh_sống tại_chỗ ở đó
        . Đồng_ý cho người khác đăng_ký thường_trú , đăng_ký tạm_trú vào chỗ ở
        của mình để vụ_lợi hoặc trong thực_tế người đăng_ký thường_trú , đăng_ký
        tạm_trú không sinh_sống tại_chỗ ở đó . Truy_nhập , khai_thác , hủy_hoại
        , làm cản_trở , gián_đoạn hoạt_động , thay_đổi , xóa , phát_tán ,
        cung_cấp trái_phép thông_tin trong Cơ_sở dữ_liệu về cư_trú .
  - source_sentence: >-
      Ai có thẩm quyền_hủy tài_liệu lưu_trữ hết giá_trị của Viện
      kiểm_sát_nhân_dân tối_cao ?
    sentences:
      - >-
        Thẩm quyền_hủy tài_liệu hết giá_trị của Viện kiểm_sát_nhân_dân các
        cấp_Lãnh đạo Viện kiểm_sát_nhân_dân tối_cao : Quyết_định hủy hồ_sơ ,
        tài_liệu quản_lý nhà_nước tại kho lưu_trữ cơ_quan Viện kiểm_sát_nhân_dân
        tối_cao sau khi có văn_bản thẩm_định của Cục Văn_thư và Lưu_trữ Nhà_nước
        . Cơ_quan điều_tra Viện kiểm_sát_nhân_dân tối_cao , Tạp_chí Kiểm_sát ,
        Báo Bảo_vệ pháp_luật , Trường Đại_học Kiểm_sát Hà_Nội , Trường Đào_tạo ,
        Bồi_dưỡng nghiệp_vụ kiểm_sát tại Thành_phố Hồ Chí_Minh , Viện
        kiểm_sát_nhân_dân cấp cao : Quyết_định việc hủy hồ_sơ , tài_liệu quản_lý
        nhà_nước sau khi có văn_bản thẩm_định của Cục Văn_thư và Lưu_trữ
        Nhà_nước . Viện kiểm_sát_nhân_dân cấp tỉnh , huyện : Quyết_định việc hủy
        hồ_sơ , tài_liệu quản_lý nhà_nước sau khi có văn_bản thẩm_định của
        cơ_quan quản_lý nhà_nước về lưu_trữ của tỉnh , thành_phố .
      - >-
        “ Điều Bồi_thường thiệt_hại do cây_cối gây ra Chủ sở_hữu , người
        chiếm_hữu , người được giao quản_lý phải bồi_thường thiệt_hại do cây_cối
        gây ra . ”
      - >-
        Chủ_tịch Hội_đồng thành_viên Chủ_tịch Hội_đồng thành_viên là người
        đại_diện theo pháp_luật của Quỹ . Chủ_tịch Hội_đồng thành_viên có quyền
        và nghĩa_vụ sau đây : Thay_mặt Hội_đồng thành_viên ký nhận vốn , các
        nguồn_lực khác do Nhà_nước và các tổ_chức có liên_quan giao cho Quỹ .
        Thay_mặt Hội_đồng thành_viên ký các văn_bản thuộc thẩm_quyền của
        Hội_đồng thành_viên . Triệu_tập và chủ_trì cuộc họp Hội_đồng thành_viên
        hoặc lấy ý_kiến các thành_viên Hội_đồng thành_viên . Phê_duyệt kế_hoạch
        hoạt_động hằng quý và hằng năm của Hội_đồng thành_viên . Phân_công
        nhiệm_vụ cho các thành_viên Hội_đồng thành_viên để thực_hiện nhiệm_vụ ,
        quyền_hạn của Hội_đồng thành_viên . Tổ_chức thực_hiện các nhiệm_vụ của
        Hội_đồng thành_viên , theo_dõi và giám_sát việc thực_hiện các nghị_quyết
        , quyết_định của Bộ_Kế_hoạch_và_Đầu_tư và của Hội_đồng thành_viên .
        Tổ_chức giám_sát , trực_tiếp giám_sát và đánh_giá kết_quả_thực_hiện
        mục_tiêu chiến_lược , kế_hoạch hoạt_động , kết_quả hoạt_động của Quỹ ,
        kết_quả quản_lý điều_hành của Giám_đốc . Trường_hợp cần_thiết , Chủ_tịch
        Hội_đồng thành_viên ủy_quyền bằng văn_bản cho một trong số các
        thành_viên Hội_đồng thành_viên hoặc ủy_quyền cho Giám_đốc thực_hiện
        chức_năng , nhiệm_vụ của mình . Người được ủy_quyền chịu trách_nhiệm
        trước Chủ_tịch Hội_đồng thành_viên về các công_việc được ủy_quyền .
        Thực_hiện quyền và nghĩa_vụ khác theo yêu_cầu của Bộ_Kế_hoạch_và_Đầu_tư
        .

SentenceTransformer based on Tnt3o5/gte_legal_v3

This is a sentence-transformers model finetuned from Tnt3o5/gte_legal_v3. It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

  • Model Type: Sentence Transformer
  • Base model: Tnt3o5/gte_legal_v3
  • Maximum Sequence Length: 8192 tokens
  • Output Dimensionality: 768 dimensions
  • Similarity Function: Cosine Similarity

Model Sources

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 8192, 'do_lower_case': False}) with Transformer model: NewModel 
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("Tnt3o5/gte-legal-v5")
# Run inference
sentences = [
    'Ai có thẩm quyền_hủy tài_liệu lưu_trữ hết giá_trị của Viện kiểm_sát_nhân_dân tối_cao ?',
    'Thẩm quyền_hủy tài_liệu hết giá_trị của Viện kiểm_sát_nhân_dân các cấp_Lãnh đạo Viện kiểm_sát_nhân_dân tối_cao : Quyết_định hủy hồ_sơ , tài_liệu quản_lý nhà_nước tại kho lưu_trữ cơ_quan Viện kiểm_sát_nhân_dân tối_cao sau khi có văn_bản thẩm_định của Cục Văn_thư và Lưu_trữ Nhà_nước . Cơ_quan điều_tra Viện kiểm_sát_nhân_dân tối_cao , Tạp_chí Kiểm_sát , Báo Bảo_vệ pháp_luật , Trường Đại_học Kiểm_sát Hà_Nội , Trường Đào_tạo , Bồi_dưỡng nghiệp_vụ kiểm_sát tại Thành_phố Hồ Chí_Minh , Viện kiểm_sát_nhân_dân cấp cao : Quyết_định việc hủy hồ_sơ , tài_liệu quản_lý nhà_nước sau khi có văn_bản thẩm_định của Cục Văn_thư và Lưu_trữ Nhà_nước . Viện kiểm_sát_nhân_dân cấp tỉnh , huyện : Quyết_định việc hủy hồ_sơ , tài_liệu quản_lý nhà_nước sau khi có văn_bản thẩm_định của cơ_quan quản_lý nhà_nước về lưu_trữ của tỉnh , thành_phố .',
    '“ Điều Bồi_thường thiệt_hại do cây_cối gây ra Chủ sở_hữu , người chiếm_hữu , người được giao quản_lý phải bồi_thường thiệt_hại do cây_cối gây ra . ”',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

Training Details

Training Dataset

Unnamed Dataset

  • Size: 120,952 training samples
  • Columns: anchor and positive
  • Approximate statistics based on the first 1000 samples:
    anchor positive
    type string string
    details
    • min: 7 tokens
    • mean: 21.41 tokens
    • max: 50 tokens
    • min: 12 tokens
    • mean: 216.87 tokens
    • max: 718 tokens
  • Samples:
    anchor positive
    " Giải_thưởng Nguyễn Đức_Cảnh " và " Giải_thưởng Nguyễn Văn_Linh " theo quy_định là giải_thưởng như thế_nào ? Giải_thưởng “ Giải_thưởng Nguyễn Đức_Cảnh ” của Tổng Liên_đoàn : “ Giải_thưởng Nguyễn Đức_Cảnh ” phần_thưởng cao_quý của Tổng Liên_đoàn Lao_động Việt_Nam được xét , trao tặng_cho công_nhân , lao_động trực_tiếp sản_xuất tại các doanh_nghiệp thuộc các thành_phần kinh_tế có thành_tích xuất_sắc tiêu_biểu nhất trong lao_động_sản_xuất ; có nhiều sáng_kiến cải_tiến kỹ_thuật ; tích_cực đào_tạo , kèm_cặp , bồi_dưỡng , giúp_đỡ đồng_nghiệp nâng_cao trình_độ tay_nghề , chuyên_môn nghiệp_vụ góp_phần xây_dựng doanh_nghiệp , đơn_vị phát_triển bền_vững , xây_dựng giai_cấp công_nhân và tổ_chức Công_đoàn vững_mạnh . “ Giải_thưởng Nguyễn Đức_Cảnh ” được tổ_chức trao_tặng 5 năm 1 lần vào dịp “ Tháng Công_nhân ” của năm tổ_chức Đại_hội Công_đoàn Việt_Nam . Một cá_nhân chỉ được trao_tặng Giải_thưởng 01 lần . Năm tổ_chức trao_tặng “ Giải_thưởng Nguyễn Đức_Cảnh ” , Đoàn Chủ_tịch Tổng Liên_đoàn ban_hành hướng_dẫn riêng về xét , trao_tặng “ Giải_thưởng Nguyễn Đức_Cảnh ” . “ Giải_thưởng Nguyễn Văn_Linh ” của Tổn...
    " Người_lớn ( trên 16 tuổi ) " được hiểu là “ Người_lớn và trẻ_em trên 16 tuổi ” " Khi triển_khai “ Hướng_dẫn quản_lý tại nhà đối_với người mắc COVID - 19 ” , đề_nghị hướng_dẫn , làm rõ một_số nội_dung như sau : . Mục 3 “ Người_lớn ( trên 16 tuổ ” : đề_nghị hướng_dẫn là “ Người_lớn và trẻ_em trên 16 tuổi ” . "
    03 Quy_chuẩn kỹ_thuật quốc_gia được ban_hành tại Thông_tư 04 là Quy_chuẩn nào ? Ban_hành kèm theo Thông_tư này 03 Quy_chuẩn kỹ_thuật quốc_gia sau : Quy_chuẩn kỹ_thuật quốc_gia về bộ trục bánh_xe của đầu_máy , toa_xe Số_hiệu : QCVN 110 : 2023/BGTVT. Quy_chuẩn kỹ_thuật quốc_gia về bộ móc_nối , đỡ đấm của đầu_máy , toa_xe Số_hiệu : QCVN 111 : 2023/BGTVT. Quy_chuẩn kỹ_thuật quốc_gia về van hãm sử_dụng trên đầu_máy , toa_xe Số_hiệu : QCVN 112 : 2023/BGTVT.
  • Loss: MatryoshkaLoss with these parameters:
    {
        "loss": "MultipleNegativesRankingLoss",
        "matryoshka_dims": [
            768,
            512,
            256
        ],
        "matryoshka_weights": [
            1,
            1,
            1
        ],
        "n_dims_per_step": -1
    }
    

Evaluation Dataset

Unnamed Dataset

  • Size: 5,109 evaluation samples
  • Columns: anchor and positive
  • Approximate statistics based on the first 1000 samples:
    anchor positive
    type string string
    details
    • min: 7 tokens
    • mean: 21.41 tokens
    • max: 50 tokens
    • min: 12 tokens
    • mean: 216.87 tokens
    • max: 718 tokens
  • Samples:
    anchor positive
    " Giải_thưởng Nguyễn Đức_Cảnh " và " Giải_thưởng Nguyễn Văn_Linh " theo quy_định là giải_thưởng như thế_nào ? Giải_thưởng “ Giải_thưởng Nguyễn Đức_Cảnh ” của Tổng Liên_đoàn : “ Giải_thưởng Nguyễn Đức_Cảnh ” phần_thưởng cao_quý của Tổng Liên_đoàn Lao_động Việt_Nam được xét , trao tặng_cho công_nhân , lao_động trực_tiếp sản_xuất tại các doanh_nghiệp thuộc các thành_phần kinh_tế có thành_tích xuất_sắc tiêu_biểu nhất trong lao_động_sản_xuất ; có nhiều sáng_kiến cải_tiến kỹ_thuật ; tích_cực đào_tạo , kèm_cặp , bồi_dưỡng , giúp_đỡ đồng_nghiệp nâng_cao trình_độ tay_nghề , chuyên_môn nghiệp_vụ góp_phần xây_dựng doanh_nghiệp , đơn_vị phát_triển bền_vững , xây_dựng giai_cấp công_nhân và tổ_chức Công_đoàn vững_mạnh . “ Giải_thưởng Nguyễn Đức_Cảnh ” được tổ_chức trao_tặng 5 năm 1 lần vào dịp “ Tháng Công_nhân ” của năm tổ_chức Đại_hội Công_đoàn Việt_Nam . Một cá_nhân chỉ được trao_tặng Giải_thưởng 01 lần . Năm tổ_chức trao_tặng “ Giải_thưởng Nguyễn Đức_Cảnh ” , Đoàn Chủ_tịch Tổng Liên_đoàn ban_hành hướng_dẫn riêng về xét , trao_tặng “ Giải_thưởng Nguyễn Đức_Cảnh ” . “ Giải_thưởng Nguyễn Văn_Linh ” của Tổn...
    " Người_lớn ( trên 16 tuổi ) " được hiểu là “ Người_lớn và trẻ_em trên 16 tuổi ” " Khi triển_khai “ Hướng_dẫn quản_lý tại nhà đối_với người mắc COVID - 19 ” , đề_nghị hướng_dẫn , làm rõ một_số nội_dung như sau : . Mục 3 “ Người_lớn ( trên 16 tuổ ” : đề_nghị hướng_dẫn là “ Người_lớn và trẻ_em trên 16 tuổi ” . "
    03 Quy_chuẩn kỹ_thuật quốc_gia được ban_hành tại Thông_tư 04 là Quy_chuẩn nào ? Ban_hành kèm theo Thông_tư này 03 Quy_chuẩn kỹ_thuật quốc_gia sau : Quy_chuẩn kỹ_thuật quốc_gia về bộ trục bánh_xe của đầu_máy , toa_xe Số_hiệu : QCVN 110 : 2023/BGTVT. Quy_chuẩn kỹ_thuật quốc_gia về bộ móc_nối , đỡ đấm của đầu_máy , toa_xe Số_hiệu : QCVN 111 : 2023/BGTVT. Quy_chuẩn kỹ_thuật quốc_gia về van hãm sử_dụng trên đầu_máy , toa_xe Số_hiệu : QCVN 112 : 2023/BGTVT.
  • Loss: MatryoshkaLoss with these parameters:
    {
        "loss": "MultipleNegativesRankingLoss",
        "matryoshka_dims": [
            768,
            512,
            256
        ],
        "matryoshka_weights": [
            1,
            1,
            1
        ],
        "n_dims_per_step": -1
    }
    

Training Hyperparameters

Non-Default Hyperparameters

  • per_device_train_batch_size: 16
  • gradient_accumulation_steps: 8
  • learning_rate: 1e-05
  • weight_decay: 0.01
  • max_grad_norm: 0.2
  • num_train_epochs: 5
  • lr_scheduler_type: cosine
  • warmup_ratio: 0.1
  • fp16: True
  • load_best_model_at_end: True
  • optim: adamw_torch_fused
  • gradient_checkpointing: True
  • batch_sampler: no_duplicates

All Hyperparameters

Click to expand
  • overwrite_output_dir: False
  • do_predict: False
  • eval_strategy: no
  • prediction_loss_only: True
  • per_device_train_batch_size: 16
  • per_device_eval_batch_size: 8
  • per_gpu_train_batch_size: None
  • per_gpu_eval_batch_size: None
  • gradient_accumulation_steps: 8
  • eval_accumulation_steps: None
  • torch_empty_cache_steps: None
  • learning_rate: 1e-05
  • weight_decay: 0.01
  • adam_beta1: 0.9
  • adam_beta2: 0.999
  • adam_epsilon: 1e-08
  • max_grad_norm: 0.2
  • num_train_epochs: 5
  • max_steps: -1
  • lr_scheduler_type: cosine
  • lr_scheduler_kwargs: {}
  • warmup_ratio: 0.1
  • warmup_steps: 0
  • log_level: passive
  • log_level_replica: warning
  • log_on_each_node: True
  • logging_nan_inf_filter: True
  • save_safetensors: True
  • save_on_each_node: False
  • save_only_model: False
  • restore_callback_states_from_checkpoint: False
  • no_cuda: False
  • use_cpu: False
  • use_mps_device: False
  • seed: 42
  • data_seed: None
  • jit_mode_eval: False
  • use_ipex: False
  • bf16: False
  • fp16: True
  • fp16_opt_level: O1
  • half_precision_backend: auto
  • bf16_full_eval: False
  • fp16_full_eval: False
  • tf32: None
  • local_rank: 0
  • ddp_backend: None
  • tpu_num_cores: None
  • tpu_metrics_debug: False
  • debug: []
  • dataloader_drop_last: False
  • dataloader_num_workers: 0
  • dataloader_prefetch_factor: None
  • past_index: -1
  • disable_tqdm: False
  • remove_unused_columns: True
  • label_names: None
  • load_best_model_at_end: True
  • ignore_data_skip: False
  • fsdp: []
  • fsdp_min_num_params: 0
  • fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
  • fsdp_transformer_layer_cls_to_wrap: None
  • accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
  • deepspeed: None
  • label_smoothing_factor: 0.0
  • optim: adamw_torch_fused
  • optim_args: None
  • adafactor: False
  • group_by_length: False
  • length_column_name: length
  • ddp_find_unused_parameters: None
  • ddp_bucket_cap_mb: None
  • ddp_broadcast_buffers: False
  • dataloader_pin_memory: True
  • dataloader_persistent_workers: False
  • skip_memory_metrics: True
  • use_legacy_prediction_loop: False
  • push_to_hub: False
  • resume_from_checkpoint: None
  • hub_model_id: None
  • hub_strategy: every_save
  • hub_private_repo: False
  • hub_always_push: False
  • gradient_checkpointing: True
  • gradient_checkpointing_kwargs: None
  • include_inputs_for_metrics: False
  • eval_do_concat_batches: True
  • fp16_backend: auto
  • push_to_hub_model_id: None
  • push_to_hub_organization: None
  • mp_parameters:
  • auto_find_batch_size: False
  • full_determinism: False
  • torchdynamo: None
  • ray_scope: last
  • ddp_timeout: 1800
  • torch_compile: False
  • torch_compile_backend: None
  • torch_compile_mode: None
  • dispatch_batches: None
  • split_batches: None
  • include_tokens_per_second: False
  • include_num_input_tokens_seen: False
  • neftune_noise_alpha: None
  • optim_target_modules: None
  • batch_eval_metrics: False
  • eval_on_start: False
  • use_liger_kernel: False
  • eval_use_gather_object: False
  • prompts: None
  • batch_sampler: no_duplicates
  • multi_dataset_batch_sampler: proportional

Training Logs

Epoch Step Training Loss
0.5291 500 1.2711
1.0578 1000 1.0203
1.5869 1500 1.0266
2.1156 2000 0.8704
2.6447 2500 0.8485
3.1734 3000 0.7169

Framework Versions

  • Python: 3.10.14
  • Sentence Transformers: 3.3.0
  • Transformers: 4.45.1
  • PyTorch: 2.4.0
  • Accelerate: 0.34.2
  • Datasets: 3.0.1
  • Tokenizers: 0.20.0

Citation

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

MatryoshkaLoss

@misc{kusupati2024matryoshka,
    title={Matryoshka Representation Learning},
    author={Aditya Kusupati and Gantavya Bhatt and Aniket Rege and Matthew Wallingford and Aditya Sinha and Vivek Ramanujan and William Howard-Snyder and Kaifeng Chen and Sham Kakade and Prateek Jain and Ali Farhadi},
    year={2024},
    eprint={2205.13147},
    archivePrefix={arXiv},
    primaryClass={cs.LG}
}

MultipleNegativesRankingLoss

@misc{henderson2017efficient,
    title={Efficient Natural Language Response Suggestion for Smart Reply},
    author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
    year={2017},
    eprint={1705.00652},
    archivePrefix={arXiv},
    primaryClass={cs.CL}
}