La première mention de la Banque cantonale du Jura (BCJ) se trouve dans la Constitution jurassienne adoptée par le peuple le 21 mars 1977. Les études préparatoires sont ensuite confiées à la Commission des établissements autonomes de la Constituante. Cette dernière comprend Michel Cerf (président, PDC), Bernard Beuret (PDC), Pierre Etique (PLR), René Girardin (PS) et Auguste Hoffmeyer (PCSI). Outre le domaine bancaire, cette commission s'occupe aussi de l'assurance immobilière, des chemins de fer et de l'énergie électrique. Une fois son rapport terminé, il est discuté lors de la séance de l'Assemblée constituante du 11 mai 1978. Plusieurs décisions sont alors prises, notamment : la banque jurassienne sera une société anonyme ; son capitale de départ sera de 40 millions de francs ; elle pourra émettre des actions au porteur dont la valeur nominale est de 500.- (51 % de ces actions sont garanties à l'Etat qui reste ainsi majoritaire) ; le siège de la banque sera Porrentruy ; ses organes seront l'assemblée générale, le Conseil d'administration (11 membres dont 6 nommés par le gouvernement et 5 par l'assemblée générale) et le Conseil de banque (3 membres nommés en son sein par le Conseil d'administration). Le 21 décembre 1978, un décret du Parlement accepte ces décisions et charge le Gouvernement de constituer la banque, d'arrêter ses statuts et de nommer les organes nécessaires. Il va en outre représenter la République et Canton du Jura à l'assemblée générale des fondateurs et des actionnaires. Le 8 janvier 1979, un arrêté du Gouvernement constitue la BCJ. Le 23 janvier 1978, le Gouvernement nomme le Conseil d'administration. Jacques Saucy en devient le président (poste qu'il occupe jusqu'en 1995), entouré de dix autres membres, William Affolter (directeur, Delémont), Artho, Antoine (1927-) (directeur, Boncourt), Bernard Bédat (professeur, Fontenais), Michel Cerf (enseignant, Courgenay), Roger Guenat (fabricant d'horlogerie, Les Breuleux), Auguste Hoffmeyer (mandataire commercial, Bassecourt), Jean-Louis Imhof (receveur communal, Delémont), Henri Magnenat (conseiller financier, Lausanne), Ernest Parietti (entrepreneur, Porrentruy) et Georges Queloz (agriculteur, Saint-Brais). Le 1er février 1979, ce Conseil d'administration nomme Gilbert Jobin à la direction générale.
La nouvelle BCJ va hériter des locaux occupés jusqu'alors par la Banque cantonale bernoise (BCBE), c'est-à-dire de ses succursales à Porrentruy et Delémont et de ses agences à Saignelégier, le Noirmont et Bassecourt.
La BCJ ouvre ses guichets le 2 mai 1979. 95% des clients de la BCBE vivant sur le nouveau territoire jurassien transfèrent alors leur compte à la BCJ.
En juin 1979, la BCJ devient le 29e membre de l'Union des banques cantonales suisses alors qu'en octobre elle rejoint l'Association suisse des banquiers.

En 1996, suite à une conjecture économique difficile, la BCJ se retrouve dans une situation critique. Le plan « Jura Horizon 2000 » est alors mis sur pieds. Ce plan de restructuration et de recapitalisation comprend deux volets qui seront réalisés durant l'année 1997.
1) volet financier (permet d'augmenter les provisions de la banque de 67,7 millions de francs) :
- fixation du besoin de provisions complémentaires ;
- financement du besoin de provisions assuré par la dissolution des réserves de la banque, l'utilisation du bénéfice brut 1996 et du bénéfice reporté, la réduction de la valeur nominale des actions BCJ de 250.- à 150.- ;
- reconstitution par l'Etat du capital social (l'Etat va souscrire 120'000 nouvelles actions) ;
- acquisition par les banques cantonales d'une participation au capital (les banques vont racheter à l'Etat jurassien 77'400 actions) ;
- offre aux actionnaires privés (l'Etat offre la possibilité aux actionnaires de souscrire aux nouveaux titres émis) ;
- acquisition complémentaire par les banques cantonales (au terme de la période de souscription, elles acquerront la moitié des titres non souscrits par des actionnaires privés) ;

2) volet administratif, réorganisation stratégique (durant le 2e semestre de 1997) :
- constitution d'un nouveau Conseil d'administration (cinq nouveaux membres désignés par l'Etat, cinq nouveaux membres désignés par l'Assemblée générale ; le président, Paul-André Sanglard, reste en place) ;
- nomination d'un nouveau Directeur général (Jean-Jacques Guinand succède à Robert Salvadé) ;
- définition et mise en place d'une nouvelle organisation de la banque ;
- réorientation de la politique commerciale.

Fin 2008, le Gouvernement propose au Parlement de modifier la loi sur la BCJ. Les principaux changements ont trait à la rémunération de la garantie de l'Etat et à une adaptation des organes de la banque. Ainsi, le gouvernement percevra un montant compris entre 0,3 et 1% des fonds propres exigibles, selon la situation de la banque. Le Conseil d'administration serait réduit de onze à sept membres (effectif dès l'assemblée générale d'avril 2011) et le Comité de banque serait supprimé. La loi ne modifie en revanche pas la part de l'Etat au capital social de la banque, qui reste à 51%.

Directeurs généraux :
1979-1992 Gilbert Jobin
1992-1997 Robert Salvadé
1997-2004 Jean-Jacques Guinand
2004- Bertrand Valley

Présidents du Conseil d'administration :
1979-1995 Jacques Saucy
1996-2016 Paul-André Sanglard
2016- Christina Pamberg

Bilan annuel (en millions de francs) :
1979 : 557
1982 : 1037
1985 : 1320
1990 : 1723
1995 : 1844
2000 : 1613
2005 : 1745
2009 : 1950

La BCJ se trouve sur quinze sites différents (entre parenthèse la date d'ouverture) :

District de Porrentruy
Siège central, Porrentruy (1979)
Succursale de Porrentruy (1979)
Agence d'Alle (1984)
Agence de Boncourt (1982)
Agence de Courgenay (1993)
Agence de Porrentruy (1987-2002)
Agence de St-Ursanne (1990)

District de Delémont
Succursale de Delémont (1979)
Agence de Bassecourt (1979)
Agence de Courrendlin (1981)
Agence de Courroux (1992)
Agence de Delémont (ville) (1991)

District des Franches-Montagnes
Succursale de Saignelégier (1979)
Agence du Noirmont (1979)

Points supplémentaires
Zone 24h "Gare" à Porrentruy
Zone 24h "Coop" à Porrentruy