SMARTICT/deik-ai-embed
Viewer • Updated • 549 • 4
How to use SMARTICT/embeddinggemma_deik_finetune_16bit with sentence-transformers:
from sentence_transformers import SentenceTransformer
model = SentenceTransformer("SMARTICT/embeddinggemma_deik_finetune_16bit")
sentences = [
"Latin Amerika sağlık sektörü iş birliği fırsatları Peru Kolombiya Ekvador toplantısı",
"YENİ ATANAN ORTA AMERİKA VE KARAYİPLER BÜYÜKELÇİSİ İLE TANIŞMA TOPLANTISI\nEtkinlikler\nOrta Amerika ve Karayipler Büyükelçisi ile tanışmak amacıyla düzenlenen toplantı, 4 Aralık 2019'da İstanbul'da düzenlendi.\nİş Konseyi ile Alakalı Diğer Etkinlikler\nTÜRKİYE-ORTA AMERİKA VE KARAYİPLER İŞ KONSEYİ’NİN PANAMA VE KÜBA ZİYARETİ\n26 Ağustos 2025 Salı\nTürkiye - Orta Amerika ve Karayipler İş Konseyi\nGUATEMALA YATIRIM AJANSI İLE SEKTÖREL İŞ BİRLİĞİ TOPLANTISI\n08 Temmuz 2025 Salı\nTürkiye - Orta Amerika ve Karayipler İş Konseyi\nPRODOMINICANA İLE YUVARLAK MASA TOPLANTISI, DEİK MERKEZİ\n14 Kasım 2022 Pazartesi\nTürkiye - Orta Amerika ve Karayipler İş Konseyi\nBUSINESS AND INVESTMENT OPPORTUNITIES IN COSTA RICA AND TURKEY\n26 Ağustos 2021 Perşembe\nTürkiye - Orta Amerika ve Karayipler İş Konseyi\nBUSINESS AND INVESTMENT OPPORTUNITIES IN EL SALVADOR\n24 Haziran 2021 Perşembe\nTürkiye - Orta Amerika ve Karayipler İş Konseyi",
"ÖZBEKİSTAN’IN PETROL DOĞALGAZ SANAYİ VE TARIM MERKEZİ KAŞKADERYA VİLAYETİ WEBINARI\nEtkinlikler\nİlgili Dosyalar\nTASLAK PROGRAM\nİş Konseyi ile Alakalı Diğer Etkinlikler\n12 AY 12 VİLAYET: ÖZBEKİSTAN'IN TARIM VE ENERJİ MERKEZİ SIRDERYA VİLAYETİ WEBİNARI\n23 Aralık 2025 Salı\n12 AY 12 VİLAYET: ÖZBEKİSTAN'IN CEVHER, KİMYA VE HAYVANCILIK MERKEZİ NAVOI VİLAYETİ WEBİNARI\n24 Kasım 2025 Pazartesi\n\"ÖZBEKİSTAN’IN TARIM, GIDA VE SANAYİ MERKEZİ FERGANA VİLAYETİ\" WEBINARI\n27 Ekim 2025 Pazartesi\n“ÖZBEKİSTAN’IN OTOMOTİV VE TEKSTİL MERKEZİ ANDİCAN VİLAYETİ” WEBINARI\n25 Eylül 2025 Perşembe\n12 AY 12 VİLAYET: ÖZBEKİSTAN'IN DOĞAL KAYNAK VE TARIM MERKEZİ SURHANDERYA VİLAYETİ WEBINARI\n26 Ağustos 2025 Salı",
"“SAĞLIK SEKTÖRÜNDE LATİN AMERİKA'DA İŞ BİRLİĞİ FIRSATLARI-1” PERU, KOLOMBİYA, EKVADOR\nEtkinlikler\nDEİK/Sağlık İş Konseyi ve Türkiye-Latin Amerika ve Karayipler İş Konseyleri, \"Sağlık Sekötründe Latin Amerika'da İş Birliği Fırsatları-1: Kolombiya, Ekvador, Peru \" çevrim içi toplantısını 2 Temmuz 2024 tarihinde gerçekleştirdi. Toplantıya, DEİK/Sağlık İş Konseyi Başkanı Dr. Mehmet Altuğ ile T.C. Ticaret Bakanlığı Uluslararası Hizmet Ticareti Genel Müdür Yardımcısı Alperen Kaçar, T.C. Kito Ticaret Müşavir Yardımcısı Suat Altaş, T.C. Bogota Ticaret Müşaviri Muhammet Hartavi ve T.C. Lima Ticaret Müşaviri Leyla Uzun Kavşut katıldı. Sağlık turizmi, ilaç - medikal teknoloji ve ürünlerine yönelik iş birliği fırsatlarını aktarılan toplantıda, soru-cevap bölümü ile sona erdi.\nToplantının kaydını\nlinkten\nizleyebilirsiniz.\nİlgili Dosyalar\nPERU SAĞLIK SEKTÖRÜ SUNUMU\nKOLOMBİYA SAĞLIK TURİZMİ HAKKINDA MAKALE\nLISTADO DE MEDICAMENTOS VITALES NO DISPONIBLES SEPTIEMBRE 2023\nKOLOMBİYA SAĞLIK SEKTÖRÜ SUNUMU\nINVIMA MANUAL 2024\nEKVATOR SAĞLIK SEKTÖRÜ SUNUMU\nİş Konseyi ile Alakalı Diğer Etkinlikler\nTÜRKİYE - BİRLEŞİK KRALLIK SAĞLIKLI YAŞ ALMA ZİRVESİ\n26 Eylül 2024 Perşembe\nSAĞLIK SEKTÖRÜNDE LATİN AMERİKA'DA İŞ BİRLİĞİ FIRSATLARI - 4: SAĞLIK TURİZMİ, İLAÇ, MEDİKAL TEKNOLOJİ VE ÜRÜNLERİ\n06 Ağustos 2024 Salı\n\"SAĞLIK SEKTÖRÜNDE LATİN AMERİKA'DA İŞ BİRLİĞİ FIRSATLARI -3” KÜBA, MEKSİKA\n16 Temmuz 2024 Salı\n“SAĞLIK SEKTÖRÜNDE LATİN AMERİKA'DA İŞ BİRLİĞİ FIRSATLARI -2 ” BREZİLYA, PANAMA, ŞİLİ :SAĞLIK TURİZMİ, İLAÇ, MEDİKAL TEKNOLOJİ VE ÜRÜNLERİ\n09 Temmuz 2024 Salı\nKANADA-TÜRKİYE İŞ KONSEYİ SAĞLIK HEYETİ İLE NETWORKİNG TOPLANTISI\n16 Kasım 2023 Perşembe"
]
embeddings = model.encode(sentences)
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [4, 4]How to use SMARTICT/embeddinggemma_deik_finetune_16bit with Unsloth Studio:
curl -fsSL https://unsloth.ai/install.sh | sh # Run unsloth studio unsloth studio -H 0.0.0.0 -p 8888 # Then open http://localhost:8888 in your browser # Search for SMARTICT/embeddinggemma_deik_finetune_16bit to start chatting
irm https://unsloth.ai/install.ps1 | iex # Run unsloth studio unsloth studio -H 0.0.0.0 -p 8888 # Then open http://localhost:8888 in your browser # Search for SMARTICT/embeddinggemma_deik_finetune_16bit to start chatting
# No setup required # Open https://huggingface.co/spaces/unsloth/studio in your browser # Search for SMARTICT/embeddinggemma_deik_finetune_16bit to start chatting
pip install unsloth
from unsloth import FastModel
model, tokenizer = FastModel.from_pretrained(
model_name="SMARTICT/embeddinggemma_deik_finetune_16bit",
max_seq_length=2048,
)This model was finetuned with Unsloth.
based on unsloth/embeddinggemma-300m
This is a sentence-transformers model finetuned from unsloth/embeddinggemma-300m on the deik-ai-embed dataset. It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.
SentenceTransformer(
(0): Transformer({'max_seq_length': 1024, 'do_lower_case': False, 'architecture': 'PeftModelForFeatureExtraction'})
(1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
(2): Dense({'in_features': 768, 'out_features': 3072, 'bias': False, 'activation_function': 'torch.nn.modules.linear.Identity'})
(3): Dense({'in_features': 3072, 'out_features': 768, 'bias': False, 'activation_function': 'torch.nn.modules.linear.Identity'})
(4): Normalize()
)
First install the Sentence Transformers library:
pip install -U sentence-transformers
Then you can load this model and run inference.
from sentence_transformers import SentenceTransformer
# Download from the 🤗 Hub
model = SentenceTransformer("sentence_transformers_model_id")
# Run inference
queries = [
"EAIE 2024 Uluslararas\u0131 E\u011fitim Konferans\u0131 ve Fuar\u0131 milli kat\u0131l\u0131m organizasyonu",
]
documents = [
'EAIE 2024 ULUSLARARASI EĞİTİM KONFERANSI VE FUARI MİLLİ KATILIM ORGANİZASYONU, TOULOUSE\nEtkinlikler\nİş Konseyi ile Alakalı Diğer Etkinlikler\nDEİK/EĞİTİM EKONOMİSİ İŞ KONSEYİ EAIE 2024 TOULOUSE FUARI’NDA NETWORKİNG YEMEĞİ DÜZENLEDİ\n19 Eylül 2024 Perşembe\nEĞİTİM ALANINDA AB FON FIRSATLARI TOPLANTISI\n20 Mayıs 2024 Pazartesi\n34. EAIE ULUSLARARASI EĞİTİM KONFERANSI VE FUARI\'NA MİLLİ KATILIM VE "STUDY İN TÜRKİYE" PAVİLYONU\n05 Nisan 2024 Cuma\nEAIE 2023 ULUSLARARASI EĞİTİM KONFERANSI VE FUARI MİLLİ KATILIM ORGANIZASYONU, 26-29 EYLÜL 2023, ROTTERDAM\n26 Eylül 2023 Salı\nEAIE ULUSLARARASI EĞİTİM KONFERANSI VE FUARI: STUDY İN TÜRKİYE PAVİLYONU\n26 Eylül 2023 Salı',
"TÜRKİYE-SLOVENYA İŞ KONSEYİ’NİN HEYET ZİYARETİ, 19-20 KASIM 2023, LJUBLJANA\nEtkinlikler\nDEİK/Türkiye-Slovenya İş Konseyi, Fatih Canpolat başkanlığındaki heyet ziyaretini, Karşı Kanat Kuruluşu Chamber of Commerce and Industry of Slovenia ile iş birliği içerisinde 19-20 Kasım 2020 tarihlerinde Ljubljana'da gerçekleştirdi.\nİş Konseyi ile Alakalı Diğer Etkinlikler\nTÜRKİYE - SLOVENYA 9. DÖNEM KEK TOPLANTISI KAPSAMINDA TÜRKİYE-SLOVENYA İŞ FORUMU\n14 Ocak 2025 Salı\nTürkiye - Slovenya İş Konseyi\nTÜRKİYE-SLOVENYA İŞ VE YATIRIM SEMİNERİ, 20 KASIM 2024, İSTANBUL\n20 Kasım 2024 Çarşamba\nTürkiye - Slovenya İş Konseyi\nSLOVENYA-TÜRKİYE İŞ FORUMU, 20 KASIM 2023, LJUBLJANA\n20 Kasım 2023 Pazartesi\nTürkiye - Slovenya İş Konseyi\nSLOVENYA ANKARA BÜYÜKELÇİSİ İLE TANIŞMA TOPLANTISI, 14 EYLÜL 2023, ANKARA\n14 Eylül 2023 Perşembe\nTürkiye - Slovenya İş Konseyi\nTÜRKİYE-SLOVENYA YUVARLAK MASA TOPLANTISI, 10 AĞUSTOS 2022, ANKARA\n10 Ağustos 2022 Çarşamba\nTürkiye - Slovenya İş Konseyi",
'TÜRKİYE-ÇİN İŞ KONFERANSI’NDA KÜRESEL TEDARİK ZİNCİRİ MASAYA YATIRILDI\nEtkinlikler\nDış Ekonomik İlişkiler Kurulu (DEİK) ve Türk Sanayicileri ve İş İnsanları Derneği (TÜSİAD) tarafından, Çin Uluslararası Ticareti Destekleme Konseyi (CCPIT) iş birliğinde, bu yıl ikincisi düzenlenen "Türkiye-Çin İş Konferansı" 29 Kasım 2023 tarihinde Pekin\'de gerçekleştirildi.\nÇin Uluslararası Tedarik Zincirleri Fuarı kapsamında, "Ekonomileri Yatırım, Ticaret ve Tedarik Zinciriyle Birleştirmek" ana temasıyla düzenlenen etkinlik, T.C. Pekin Büyükelçisi\nDr. İsmail Hakkı Musa\n, DEİK/Türkiye-Çin İş Konseyi Başkanı ve TÜSİAD Çin Çalışma Grubu Başkanı\nKorhan Kurdoğlu\nile CCPIT Başkan Yardımcısı\nLi Qingshuang\nbaşta olmak üzere 250\'den fazla Türk ve Çinli iş insanının katılımıyla gerçekleştirildi.\nBüyükelçi Musa: "Çin, Asya\'daki en büyük, dünyadaki üçüncü büyük ticaret ortağımız"\nKonferansın açılışında konuşan\nT.C. Pekin Büyükelçisi Dr. İsmail Hakkı Musa\n, Türkiye\'nin stratejik konumu, üretim potansiyeli, lojistik imkânları, tedarik ve üretim kapasitesiyle, bölgesinde ve küresel düzeyde önemli bir ülke olarak öne çıkmakta olduğunun altını çizdi. Musa, \'\'Tarihin, coğrafyanın, stratejinin, küresel dinamiklerin ve nihayet sağduyunun Türkleri ve Çinlileri daha yakın iş birliğine, daha yakın çalışmaya davet ettiği açıktır" dedi.\nMusa, Türkiye ile Çin arasındaki ticaretin geliştiğine işaret ederek, "Çin, Asya\'daki en büyük, dünyada ise üçüncü en büyük ticaret ortağımız konumunda bulunuyor. İki ülke arasındaki ticaret hacmi son 20 yılda, 40 kat artarak 2022\'de yaklaşık 45 milyar dolarlık bir rekora imza attı. 1200\'ü aşkın Çinli şirket Türkiye\'de, 100 kadar Türk şirketi de Çin\'de kârlı faaliyetlerini sürdürüyor" ifadelerini kullandı.\nMusa, iki ülke arasında sürdürülebilir bir ekonomik iş birliği ilişkisi kurulması için ticaretin dengeli şekilde yürütülmesinin büyük önem taşıdığına dikkat çekerek, "Hem ekonomilerimizin yapısı itibarıyla hem de tek taraflı çabalarla Türkiye aleyhine ticaret açığının dengelenmesi için atılabilecek önemli adımlar var. Çin\'in dünya genelinde 160 milyar doları aşkın yatırımı bulunuyor. Türkiye\'nin bu yatırımdaki payı ise beklentimizin altındadır. Bu çerçevede, Çinli iş insanlarının Türkiye\'deki yatırımlarına hız kazandırmaları ve ihracat çalışmalarımızı kolaylaştırmaları en büyük beklentilerimiz arasındadır" dedi.\nLi Qingshuang: "Çin-Türkiye işbirliğinin gelişmesine destek vermeyi dürdüreceğiz."\nCCPIT Başkan Yardımcısı Li Qingshuang\nkonuşmasında, "Çin ve Türkiye arasındaki ikili ticaret hacminin bu yılın ilk üç çeyreğinde yıllık bazda yüzde 15,6 artışla 33,44 milyar dolara ulaştığını hatırlatarak, "İki ülke iş dünyası Kuşak ve Yol\'un ortak inşası çerçevesinde ticaret, yatırım, altyapı, yeşil enerji ve diğer alanlardaki işbirliğini derinleştirmeye devam etmiştir. İki ülke arasındaki yatırım büyüklüğü 3 milyar doları aşmıştır." şeklinde konuştu.\nLi, Pekin\'de ilk kez düzenlenen Çin Uluslararası Tedarik Zincirleri Fuarı\'na 60\'a yakın Türk şirketinin katılmasının önem taşıdığına işaret ederek "CCPIT, Türkiye ve Çin arasındaki ekonomik ve ticari işbirliğini güçlendirmeyi istiyor. Bu bağlamda, DEİK ve TÜSİAD gibi muadil kuruluşlarla işbirliği anlaşmaları imzaladık" dedi. Gelecekte daha fazla kaliteli Türk ürününün Çin pazarına girmesine yardımcı olmak, Çinli şirketlerin Türkiye\'de yatırım yapmasına ve iş kurmasına destek olmak için çalışmayı sürdüreceklerinin altını çizdi. Çin\'in ekonomik ve ticari ilişkilerinin yeni bir seviyeye getirilmesi ve iki ülke arasındaki işbirliklerinin arttırılmasını amaçladıklarını ifade etti.\nKorhan Kurdoğlu: "Çin\'den gelecek know-how ile Türkiye\'de dijitalleşme konusunda pek çok ortak proje hayata geçirebilir"\nDEİK/Türkiye-Çin İş Konseyi Başkanı ve TÜSİAD Çin Çalışma Grubu Başkanı Korhan Kurdoğlu\nise, konferansın ana teması "küresel tedarik zincirleri"nin, işletmelerin rekabet gücü ve ülkelerin ekonomik büyümesine katkısı açısından hayati önemde olduğunu vurguladı. Çin Başbakanı Li Qiang ev sahipliğindeki yabancı yatırımcılar toplantısına da katıldıklarını aktaran Kurdoğlu, "Dünyada ardı ardına yaşanan çoklu kriz ortamında, küresel tedarik ve üretim zincirleri de yeniden şekilleniyor. Şirketlerin tedarik ağlarını veya üretim üslerini daha yakın coğrafyalara, kendi ülkelerine veya partner olarak gördükleri ülkelere kaydırmaya başladıklarını gözlemliyoruz. Türkiye, küresel tedarik zincirlerinin uzun bir dönemden beri önemli bir parçası. Çin ile iş birliğinin ve dengeli ekonomik ilişkiler geliştirmenin ülkemize büyük bir değer katacağına inanıyoruz. Çin\'in hem küresel tedarik zincirlerindeki güçlü konumu hem de dijitalleşme ve yeni teknolojiler alanında dünya lideri olma yolunda attığı sağlam adımlar düşünüldüğünde, ülkemiz için de önemli iş birliği alanları ve fırsatları sunduğunu görüyoruz. Türkiye\'de, Çin\'den gelecek know-how ile özellikle akıllı üretim, sağlık teknolojileri, büyük veri, nesnelerin interneti dahil dijitalleşme konusunda pek çok ortak proje hayata geçirebilir. Kazan-kazan olarak görülecek projeler, Türkiye\'nin Avrupa ile iç içe girmiş bağları ile, Çin\'i Avrupa\'ya daha da yaklaştıracaktır. Çin de Türkiye için Ticaret Bakanlığımızın "Uzak Ülkeler" stratejisi kapsamındaki odak ülkelerden biri olarak, Asya ülkelerine açılan bir kapı niteliğinde. Çin, 800 milyon dijital kullanıcısı ve 400 milyon orta sınıfı ile ürettiği kadar tüketen bir ülke olarak, Türkiye için önemli bir pazar ve aynı zamanda büyük potansiyel barındıran bir ticaret ortağı. Bu ortaklığın geliştirilmesi, Türkiye ve Çin arasında ticaretin dengelenebilmesi ve iş birliği fırsatlarının değerlendirilmesi için TÜSİAD ve DEİK olarak, karşı kanat kuruluşumuz CCPIT ve Çin\'in diğer sektörel kuruluşları ile yakın temaslarımızı sürdürüyoruz" dedi.\nTÜSİAD Şanhay Network Üyesi / DTİK Çin İş Konseyi Üyesi ve Burger King CEO\'su Atakan Bozkurt moderatörlüğünde gerçekleşen panele, TÜSİAD Şanhay Network Koordinatörü ve Beko Çin Ürün Yönetimi ve Pazarlama Direktörü Onur Türkmen, ZTE Türkiye CTO\'su Gu Xinyu, TÜSİAD Şanhay Network Üyesi / DTİK Çin İş Konseyi Üyesi ve Çimtaş Ningbo Genel Müdürü ve Çin Resmi Temsilcisi Emrah Ercen, FIBERHOME International (Beijing) Technologies CEO\'su Xu Lei, China Coal Construction Group Genel Müdür Yardımcısı Gui Zhao ile TÜSİAD Şanhay Network Üyesi ve Softtech Çin CEO\'su Doruk Keser katılarak Türkiye ve Çin arasındaki ticaret ve yatırım ilişkilerin geliştirilmesi ve iş birliklerinin arttırılmasına yönelik görüşlerini paylaştılar.\nII. Türkiye-Çin İş Konferansı, TFI TAB Gıda Yatırımları, Beko, CLK Worldwide, Çimtaş(Ningbo) ve Softtech sponsorluğunda gerçekleştirildi.\nİş Konseyi ile Alakalı Diğer Etkinlikler\nTÜRKİYE VE ÇİN İŞ DÜNYASI DİJİTAL DÖNÜŞÜMÜN GELECEĞİ İÇİN İSTANBUL’DA BULUŞTU\n11 Temmuz 2023 Salı\nTürkiye - Çin İş Konseyi\nDEİK İLE TÜSİAD TÜRKİYE’DEN ÇİN’E YAPILAN İHRACATI MERCEK ALTINA ALDI\n11 Nisan 2023 Salı\nTürkiye - Çin İş Konseyi\nÇİN HALK CUMHURIYETİ E-TICARET PAZAR ARAŞTIRMASI SUNUMU\n19 Mart 2021 Cuma\nTürkiye - Çin İş Konseyi\nÇİN LİN-GANG ÖZEL BÖLGESİ\'NDE YATIRIM FIRSATLARI SEMİNERİ\n26 Ocak 2021 Salı\nTürkiye - Çin İş Konseyi\nTÜRKİYE-ÇİN/HUBEI EYALETİ INTERCONNECTED BUSINESS SERIES\n16 Eylül 2020 Çarşamba\nTürkiye - Çin İş Konseyi',
]
query_embeddings = model.encode_query(queries)
document_embeddings = model.encode_document(documents)
print(query_embeddings.shape, document_embeddings.shape)
# [1, 768] [3, 768]
# Get the similarity scores for the embeddings
similarities = model.similarity(query_embeddings, document_embeddings)
print(similarities)
# tensor([[0.4248, 0.0454, 0.0779]], dtype=torch.float16)
InformationRetrievalEvaluator| Metric | Value |
|---|---|
| cosine_accuracy@1 | 0.5455 |
| cosine_accuracy@3 | 0.7364 |
| cosine_accuracy@5 | 0.8273 |
| cosine_accuracy@10 | 0.8909 |
| cosine_precision@1 | 0.5455 |
| cosine_precision@3 | 0.2455 |
| cosine_precision@5 | 0.1655 |
| cosine_precision@10 | 0.0891 |
| cosine_recall@1 | 0.5455 |
| cosine_recall@3 | 0.7364 |
| cosine_recall@5 | 0.8273 |
| cosine_recall@10 | 0.8909 |
| cosine_ndcg@10 | 0.7145 |
| cosine_mrr@10 | 0.6584 |
| cosine_map@100 | 0.6632 |
query and passage| query | passage | |
|---|---|---|
| type | string | string |
| details |
|
|
| query | passage |
|---|---|
Türkiye Suudi Arabistan İş Forumu ve ikili iş görüşmeleri |
TÜRKİYE-SUUDİ ARABİSTAN İŞ FORUMU VE İKİLİ İŞ GÖRÜŞMELERİ |
Dijital Teknolojiler İş Konseyi WebSummit Lizbon heyet ziyareti |
DİJİTAL TEKNOLOJİLER İŞ KONSEYİ'NİN WEBSUMMIT LİZBON KAPSAMINDA HEYET ZİYARETİ |
Türkiye-Etiyopya İş Konseyi Etiyopya Sanayi ve Ticaret Bakanı hibrit toplantısı |
ETİYOPYA SANAYİ VE TİCARET BAKANI İLE HİBRİD TOPLANTI |
MultipleNegativesRankingLoss with these parameters:{
"scale": 20.0,
"similarity_fct": "cos_sim",
"gather_across_devices": false,
"directions": [
"query_to_doc"
],
"partition_mode": "joint",
"hardness_mode": null,
"hardness_strength": 0.0
}
query and passage| query | passage | |
|---|---|---|
| type | string | string |
| details |
|
|
| query | passage |
|---|---|
Türkiye Gürcistan ve AB çapraz kümülasyon ticaret ve yatırım fırsatları iş forumu |
T.C. TİCARET BAKANI SAYIN MEHMET MUŞ’UN GÜRCİSTAN ZİYARETİ KAPSAMINDA İŞ FORUMU, 9 EYLÜL 2022, TİFLİS |
Ukrayna ulaştırma altyapısı yatırım projeleri ve iletişim bilgileri |
UKRAYNA ULAŞTIRMA ALTYAPISI YATIRIM PROJELERİ |
DEİK Macaristan iş ve yatırım fırsatları semineri İstanbul |
DEİK, MACARİSTAN İŞ VE YATIRIM FIRSATLARI SEMİNERİ İSTANBUL’DA DÜZENLEDİ |
MultipleNegativesRankingLoss with these parameters:{
"scale": 20.0,
"similarity_fct": "cos_sim",
"gather_across_devices": false,
"directions": [
"query_to_doc"
],
"partition_mode": "joint",
"hardness_mode": null,
"hardness_strength": 0.0
}
eval_strategy: stepsper_device_train_batch_size: 64per_device_eval_batch_size: 64gradient_accumulation_steps: 2learning_rate: 2e-05max_steps: 30warmup_ratio: 0.03prompts: {'question': '', 'passage_text': ''}batch_sampler: no_duplicatesoverwrite_output_dir: Falsedo_predict: Falseeval_strategy: stepsprediction_loss_only: Trueper_device_train_batch_size: 64per_device_eval_batch_size: 64per_gpu_train_batch_size: Noneper_gpu_eval_batch_size: Nonegradient_accumulation_steps: 2eval_accumulation_steps: Nonetorch_empty_cache_steps: Nonelearning_rate: 2e-05weight_decay: 0.0adam_beta1: 0.9adam_beta2: 0.999adam_epsilon: 1e-08max_grad_norm: 1.0num_train_epochs: 3.0max_steps: 30lr_scheduler_type: linearlr_scheduler_kwargs: {}warmup_ratio: 0.03warmup_steps: 0log_level: passivelog_level_replica: warninglog_on_each_node: Truelogging_nan_inf_filter: Truesave_safetensors: Truesave_on_each_node: Falsesave_only_model: Falserestore_callback_states_from_checkpoint: Falseno_cuda: Falseuse_cpu: Falseuse_mps_device: Falseseed: 42data_seed: Nonejit_mode_eval: Falseuse_ipex: Falsebf16: Falsefp16: Falsefp16_opt_level: O1half_precision_backend: autobf16_full_eval: Falsefp16_full_eval: Falsetf32: Nonelocal_rank: 0ddp_backend: Nonetpu_num_cores: Nonetpu_metrics_debug: Falsedebug: []dataloader_drop_last: Falsedataloader_num_workers: 0dataloader_prefetch_factor: Nonepast_index: -1disable_tqdm: Falseremove_unused_columns: Truelabel_names: Noneload_best_model_at_end: Falseignore_data_skip: Falsefsdp: []fsdp_min_num_params: 0fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}fsdp_transformer_layer_cls_to_wrap: Noneaccelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}parallelism_config: Nonedeepspeed: Nonelabel_smoothing_factor: 0.0optim: adamw_torch_fusedoptim_args: Noneadafactor: Falsegroup_by_length: Falselength_column_name: lengthddp_find_unused_parameters: Noneddp_bucket_cap_mb: Noneddp_broadcast_buffers: Falsedataloader_pin_memory: Truedataloader_persistent_workers: Falseskip_memory_metrics: Trueuse_legacy_prediction_loop: Falsepush_to_hub: Falseresume_from_checkpoint: Nonehub_model_id: Nonehub_strategy: every_savehub_private_repo: Nonehub_always_push: Falsehub_revision: Nonegradient_checkpointing: Falsegradient_checkpointing_kwargs: Noneinclude_inputs_for_metrics: Falseinclude_for_metrics: []eval_do_concat_batches: Truefp16_backend: autopush_to_hub_model_id: Nonepush_to_hub_organization: Nonemp_parameters: auto_find_batch_size: Falsefull_determinism: Falsetorchdynamo: Noneray_scope: lastddp_timeout: 1800torch_compile: Falsetorch_compile_backend: Nonetorch_compile_mode: Noneinclude_tokens_per_second: Falseinclude_num_input_tokens_seen: Falseneftune_noise_alpha: Noneoptim_target_modules: Nonebatch_eval_metrics: Falseeval_on_start: Falseuse_liger_kernel: Falseliger_kernel_config: Noneeval_use_gather_object: Falseaverage_tokens_across_devices: Falseprompts: {'question': '', 'passage_text': ''}batch_sampler: no_duplicatesmulti_dataset_batch_sampler: proportionalrouter_mapping: {}learning_rate_mapping: {}| Epoch | Step | Training Loss | Validation Loss | cosine_ndcg@10 |
|---|---|---|---|---|
| -1 | -1 | - | - | 0.0312 |
| 1.2857 | 5 | 3.3676 | 2.5098 | 0.5636 |
| 2.5714 | 10 | 2.203 | 1.7549 | 0.6705 |
| 3.8571 | 15 | 1.4588 | 1.2070 | 0.6862 |
| 5.0 | 20 | 0.9118 | 0.9263 | 0.6956 |
| 6.2857 | 25 | 0.7492 | 0.8164 | 0.6992 |
| 7.5714 | 30 | 0.5997 | 0.7554 | 0.7145 |
| -1 | -1 | - | - | 0.7145 |
@inproceedings{reimers-2019-sentence-bert,
title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
author = "Reimers, Nils and Gurevych, Iryna",
booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
month = "11",
year = "2019",
publisher = "Association for Computational Linguistics",
url = "https://arxiv.org/abs/1908.10084",
}
@misc{oord2019representationlearningcontrastivepredictive,
title={Representation Learning with Contrastive Predictive Coding},
author={Aaron van den Oord and Yazhe Li and Oriol Vinyals},
year={2019},
eprint={1807.03748},
archivePrefix={arXiv},
primaryClass={cs.LG},
url={https://arxiv.org/abs/1807.03748},
}
Base model
unsloth/embeddinggemma-300m