תולדותיו של הכלב, ראשיתן בתקופה קדומה ביותר, בשחר ההיסטוריה של האדם עצמו. בציורי קיר שנמצאו במערות בדרום צרפת, ושגילם המשוער כ- 20000 שנים, ניתן להבחין בברור בדמות אדם בשעת ציד ולידו כלב. מוצאו של הכלב, מעורפל כהתפתחותו. הועלו כל מיני השקפות, קורנד לורנץ, חוקר הטבע האוסטרי, הביע דעה משכנעת, אם כי מעורפלת במקצת, לפי דעה זאת מוצאו של הכלב הוא כפול, חלק מן הכלבים מוצאם מן הזאבים, ואילו אחרים מוצאם מן התנים שבמזרח התיכון. עד היום אין תמימות דעים בין הזואולוגים על מוצא הכלבים, אולם זוהי בעיה אקדמית טהורה. יהיה מוצאו של הכלב אשר יהיה, אין כל ספק שברבות השנים הצטלבה דרכו בזו של האדם. האדם מחד הכלב מאידך, לא תן או זאב, אלה כלב, הדומה בכל לזה, המוכר לנו כיום, פרט לאותם שינויים אשר הטביע בו האדם על ידי טיפוח תכונות מסוימות.
כלב קולי הוא אחד הגזעים העתיקים בעולם. חושבים שהובא לאנגליה ע"י הרומאים במסעותיהם וכיבושיהם, ואכן תורתו מזכירה במעט את כלב ההרים הברני השוויצרי שאף לו מוצא רומאי. הרומאים נהגו לקחת עמם עדרי כבשים במסעותיהם אשר שימשו להם מקור הספקת מזון טרי.
בורדר קולי מוצאו מסקוטלנד, יש בגזע הקולי גם שרידים של כלבי רועים סקוטים ואנגליים. לכלבים אילה היו תכונות אשר מצאו חן בעני רועי הכבשים. הכלבים היו מהירים, זריזים, ערניים, בעלי מוטיבציה גבוה בעבודה והיה ניתן לאלפם, יופיים היה בפרוותם הארוכה והמלאה שהייתה עמידה בתנאי מזג אוויר קשים. מטרת גידול גזע בורדר קולי : פיתוח כלב יפה ואציל, כלב המשתלב ומתחבר למשפחה ולעדרי צאן, ובאותה מידה, כלב נוח וטוב מזג לאילוף למטרת עבודה עם עדרי הצאן.
מאז שנת 1900 לא חלו כמעט שינויים בגזע כלב קולי כמו כן, בתקן הקולי הרשמי שהתקבל ב FCI – התאחדות ארגוני הכלבנות האירופאית, שבה חברה גם התאחדות הכלבנות הישראלית.