Năm 1988, Ngân hàng Phát triển Nông nghiệp Việt Nam được thành lập theo Nghị định số 53/HĐBT ngày 26/3/1988 của Hội đồng Bộ trưởng (nay là Chính phủ) về việc thành lập các ngân hàng chuyên doanh, trong đó có Ngân hàng Phát triển Nông nghiệp Việt Nam hoạt động trong lĩnh vực nông nghiệp, nông thôn.
 
Ngân hàng Phát triển Nông nghiệp hình thành trên cơ sở tiếp nhận từ Ngân hàng Nhà nước: tất cả các chi nhánh Ngân hàng Nhà nước huyện, Phòng Tín dụng Nông nghiệp, quỹ tiết kiệm tại các chi nhánh Ngân hàng Nhà nước tỉnh, thành phố. Ngân hàng Phát triển Nông nghiệp TW được hình thành trên cơ sở tiếp nhận Vụ Tín dụng Nông nghiệp Ngân hàng Nhà nước và một số cán bộ của Vụ Tín dụng Thương nghiệp, Ngân hàng Đầu tư và Xây dựng, Vụ Kế toán và một số đơn vị.
 
Ngày 14/11/1990, Chủ tịch Hội đồng Bộ trưởng (nay là Thủ tướng Chính phủ) ký Quyết định số 400/CT thành lập Ngân hàng Nông nghiệp Việt Nam thay thế Ngân hàng Phát triển Nông nghiệp Việt Nam. Ngân hàng Nông nghiệp là Ngân hàng thương mại đa năng, hoạt động chủ yếu trên lĩnh vực nông nghiệp, nông thôn, là một pháp nhân, hạch toán kinh tế độc lập, tự chủ, tự chịu trách nhiệm về hoạt động của mình trước pháp luật.
 
Ngày 01/03/1991, Thống đốc Ngân hàng Nhà nước có Quyết định số 18/NH-QĐ thành lập Văn phòng đại diện Ngân hàng Nông nghiệp tại Thành phố Hồ Chí Minh và ngày 24/6/1994, Thống đốc có văn bản số 439/CV-TCCB chấp thuận cho Ngân hàng nông nghiệp được thành lập văn phòng miền Trung tại Thành phố Quy Nhơn - tỉnh Bình Dịnh.
 
Ngày 22/12/1992, Thống đốc Ngân hàng Nhà nước có Quyết định số 603/NH-QĐ về việc thành lập chi nhánh Ngân hàng Nông nghiệp các tỉnh thành phố trực thuộc Ngân hàng Nông nghiệp gồm có 3 Sở giao dịch (Sở giao dịch I tại Hà Nội và Sở giao dịch II tại Văn phòng đại diện khu vực miền Nam và Sở giao dịch 3 tại Văn phòng miền Trung) và 43 chi nhánh ngân hàng nông nghiệp tỉnh, thành phố. Chi nhánh Ngân hàng Nông nghiệp quận, huyện, thị xã có 475 chi nhánh.
 
Năm 1993, Ngân hàng Nông nghiệp Việt Nam ban hành quy chế thi đua khen thưởng tạo ra những chuẩn mực cho các cá nhân và tập thể phấn đấu trên mọi cương vị và nhiệm vụ công tác. Tổ chức được hội nghị tổng kết toàn quốc có các giám độc chi nhánh huyện suất sắc nhất của tỉnh thành phố.
 
Ngày 30/7/1994 tại Quyết định số 160/QĐ-NHN9, Thống đốc Ngân hàng Nhà nước chấp thuận mô hình đổi mới hệ thống quản lý của Ngân hàng nông nghiệp Việt Nam, trên cơ sở đó, Tổng giám đốc Ngân hàng Nông nghiệp Việt Nam cụ thể hóa bằng văn bản số 927/TCCB/Ngân hàng Nông nghiệp ngày 16/08/1994 xác định: Ngân hàng Nông nghiệp Việt Nam có 2 cấp: Cấp tham mưu và Cấp trực tiếp kinh doanh. Đây thực sự là bước ngoặt về tổ chức bộ máy của Ngân hàng nông nghiệp Việt Nam và cũng là nền tảng cho hoạt động kinh doanh của Ngân hàng Nông nghiệp và Phát triển nông thôn Việt Nam sau này.
 
Ngày 7/3/1994 theo Quyết định số 90/TTg của Thủ tướng Chính phủ , Ngân hàng Nông Nghiệp Việt Nam hoạt động heo mô hình Tổng công ty Nhà nước với cơ cấu tổ chức bao gồm Hội đồng Quản trị, Tổng Giám đốc, bọ máy giúp việc bao gòm bộ máy kiểm soát nội bộ, các đơn vị thành viên bao gồm các đơn vị hạch toán phụ thuộc, hạch toán độc lập, đơn vị sự nghiệp, phân biệt rõ chức năng quản lý và chức năng điều hành, Chủ tịch Hội đồng quản trị không kiêm Tổng Giám đốc.

 
Trên cơ sở những kết quả tốt đẹp của Quỹ cho vay ưu đãi hộ nghèo, Ngân hàng Nông nghiệp tiếp tục đề xuất kiến nghị lập Ngân hàng phục vụ người nghèo, được Chính phủ, Ngân hàng Nhà nước ủng hộ, dư luận rất hoan nghênh. Ngày 31/08/1995, Thủ tướng Chính phủ ban hành Quyết định số 525/TTg thành lập Ngân hàng phục vụ người nghèo.
 
Ngân hàng phục vụ người nghèo là một tổ chức tín dụng của Nhà nước hoạt động trong phạm vi cả nước, có tư cách pháp nhân, có vốn điều lệ, có tài sản, bảng cân đối, có con dấu, trụ sở chính đặt tại Thành phố Hà Nội. Vốn hoạt động ban đầu là 400 tỷ đồng do Ngân hàng Nông nghiệp Việt Nam góp 200 tỷ đồng, Ngân hàng Ngoại thương 100 tỷ đồng và Ngân hàng Nhà nước 100 tỷ đồng. Hoạt động của Ngân hàng Phục vụ người nghèo vì mục tiêu xóa đói giảm nghèo, không vì mục đích lợi nhuận, thực hiện bảo toàn vốn ban đầu, phát triển vốn, bù đắp chi phí. Ngân hàng Phục vụ Người nghèo - thực chất là bộ phận tác nghiệp của Ngân hàng Nông nghiệp Việt Nam tồn tại và phát triển mạnh. Tới tháng 09/2002, dư nợ đã lên tới 6.694 tỷ, có uy tín cả trong và ngoài nước, được các Tổ chức quốc tế đánh giá cao và đặc biệt được mọi tầng lớn nhân dân ửng hộ, quý trọng. Chính vì những kết quả như vậy, ngày 04/10/2002, Thủ tướng chính phủ đã ban hành Quyết định số 131/2002/QĐ-TTg thành lập Ngân hàng Chính sách xã hội trên cơ sở Ngân hàng Phục vụ Người nghèo - Từ 01/01/2003 Ngân hàng Phục vụ Người nghèo đã chuyển thành NH Chính sách xã hội. Ngân hàng Nông nghiệp chính là người đề xuất thành lập, thực hiện và bảo trợ Ngân hàng phục vụ người nghèo tiền thân của Ngân hàng chính sách xã hội - Đây là một niềm tự hào to lớn của Ngân hàng Nông nghiệp và Phát triển Nông thôn Việt Nam trong sự nghiệp phát triển kinh tế, xoá đói giảm nghèo.
 
Ngày 15/11/1996, được Thủ tướng Chính phủ ủy quyền, Thống đốc Ngân hàng Nhà nước Việt Nam ký Quyết định số 280/QĐ-NHNN đổi tên Ngân hàng Nông nghiệp Việt Nam thành Ngân hàng Nông nghiệp và phát triển Nông thôn Việt Nam.
 
Ngân hàng Nông nghiệp và Phát triển Nông thôn hoạt động theo mô hình Tổng công ty 90, là doanh nghiệp Nhà nước hạng đặc biệt, hoạt động theo Luật các tổ chức tín dụng và chịu sự quản lý trực tiếp của Ngân hàng Nhà nước Việt Nam. Với tên gọi mới, ngoài chức năng của một ngân hàng thương mại, Ngân hàng Nông nghiệp và Phát triển Nông thôn được xác định thêm nhiệm vụ đầu tư phát triển đối với khu vực nông thôn thông qua việc mở rộng đầu tư vốn trung, dài hạn để xây dựng cơ sở vật chất kỹ thuật cho sản xuất nông, lâm nghiệp, thủy hải sản góp phần thực hiện thành công sự nghiệp công nghiệp hóa - hiện đại hóa nông nghiệp nông thôn.
 
Trong năm 1998, NHNo đã tập trung nâng cao chất lượng tín dụng, xử lý nợ tồn đọng cũ và quản lý chặt chẽ hơn công tác thẩm định, xét duyệt các khoản cho vay mới, tiến hành các biện pháp phù hợp để giảm nợ thấp quá hạn.
 
Năm 1999, chính phủ Việt Nam đặc biệt quan tâm và tập trung đầu tư phát triển nông nghiệp nong thôn. Luật Ngân hàng Nhà nước và Luật các tổ chức tín dụng có hiệu lực thi hành, tạo hành lang pháp lý cho hoạt động ngân hàng. Đẩy mạnh huy động vốn trong và ngoài nước chú trọng tiếp nhận thực hiện tốt các dự an nước ngoài uỷ thác, cho vay các chương tình dự án lớn có hiệu quả đồng thời mở rộng cho vay hộ sản xuất hợp tac sản xuất được coi là những biện pháp chú trọng của Ngân hàng Nông nghiêp kế hoạch tăng trưởng.
 
Tháng 2 năm 1999 Chủ tích Quản trị ban hành Quyết định số 234/HĐQT-08  về quy định quản lý điều hành hoạt động kinh doanh ngoại hối trong hệ thống Ngân hàng Nông nghiệp và Phát triển nông thôn Việt Nam. Tập trung thanh toán quốc tế về Sở Giao dịch Ngân hàng Nông nghiệp và Phát triển nông thôn Việt nam ( Sở giao dịch được thành lập thay thế Sở giao dịch kinh doanh hối đoái, Sở giao dịch là đấu mối vốn cả nội và ngoại tệ của toàn hệ thống) Sở Giao dịch II không làm đầu mối thanh toán quốc tế. Tài khoản NOSTRO tập trung về Sở giao dịch. Tất cả các chi nhánh đều nối mạng SWIFT trực tiếp với Sở giao dịch. Các chi nhánh tỉnh thành phố đều được thực hiện các nghiệp vụ kinh doanh đối ngoại.Năm 2000 cùng với việc mở rộng kinh doanh trên thị trường trong nước, NHNo tích cực mở rộng quan hệ quốc tế và kinh doanh đối ngoại, nhân được sự tài trợ của các tố chức tài chính tín dụng quốc tế như WB, ADB, IFAD, ngân hàng tái thiết Đức… đổi mới công nghệ, đào tạo nhân viên., Tiếp nhân và triển khai có hiêu quả có hiệu quả 50 Dự án  nước ngoài với tổng số vốn trên 1300 triệu USD chủ yếu đầu tưu vào khu vực kinh tế nông nghiệp, nông thôn. Ngoài hệ thống thanh toán quốc tế qua mang SWIFT, NHNo đã thiết lập được hệ thống thanh toán chuyển tiền điện tử, máy rút tiền tự động ATM trong toàn hệ thống.
 
Tiến hành đổi mới toàn diện mô hình tổ chức, màng lưới kinh doanh theo hương tinh giảm trung gian, tăng năng lực cho các đơn vị trực tiếp kinh doanh., Đổi mới công tác quản trị điều hành, quy trình nghiệp vụ theo hướng đơn giản hoá các thủ tục tạo điều kiện thuận lợi cho khách hàng., Tập trung mọi nguồn lực đào tạo cán bộ nhân viên theo hướng chuyên mon hoá., tăng cường cơ sở vật chất kỹ thuật, hiện đại hoá công nghệ.
 
Năm 2001 là năm đầu tiên NHNo triển khai thực hiện đề án tái cơ cấu với các nội dung chính sách là cơ cấu lại nợ, lành mạnh hoá tài chính, nâng cao chất lượng tài sản có, chuyển đổi hệ thống kế toán hiện hành theo chuẩn mực quốc tế đôi mới sắp xếp lại bộ máy tổ chức theo mô hình NHTM hiện đại tăng cường đào tạo và đào tạo lại cán bộ tập trung đổi mới công nghệ ngân hàng, xây dựng hệ thống thông tin quản lý hiện đại.
 
Bên cạnh mở rộng kinh doanh trên thị trường trong nước, năm 2002, NHNo tiếp tục tăng cường quan hệ hợp tác quốc tế. Đến cuối năm 2002 NHNo là thành viên của APRACA, CICA và ABA, trong đó Tổng Giám đốc NHNo là thành viên chính thức Ban điều hành của APRACA và CICA
 
Năm 2003 NHNo và PTNTVN đã đẩy nhanh tiến độ thực hiện Đề án Tái cơ cấu nhằm đưa hoạt động của NHNo&PTNT VN phát triển với quy mô lớn chất lượng hiệu quả cao Với những thành tích đặc biệt xuất sắc trong thời kỳ đổi mới, đóng góp tích cực và rất có hiệu quả vào sự nghiệp phát triển kinh tế xã hội của đất nước, sự nghiệp Công nghiệp hoá, hiện đại hoá nông nghiệp - nông thôn, Chủ tịch nước CHXHCNVN đã ký quyết định số 226/2003/QD/CTN ngày 07/05/2003 phong tặng danh hiệu Anh hùng Lao động thời kỳ đổi mới cho Ngân hàng Nông nghiệp và Phát triển Nông thôn Việt Nam.
 
Tính đến năm 2004, sau 4 năm triển khai thực hiện Đề án tái cơ câu giai đoạn 2001-2010, Ngân hàng Nông nghiệp đã đạt được những kết quả đáng khích lệ. Tình hình tài chính đã được lành mạnh hơn qua việc cơ cấu lại nợ và tăng vốn điều lệ, xử lý trên 90% nợ tồn động. Mô hình tổ chức từng bước được hoàn thiện nhằm tăng cường năng lực quản trị điều hành. Bộ máy lãnh đạo từ trung ương đến chi nhánh được củng cố, hoàn thiện, quyền tự chủ trong kinh doanh được mở rộng hơn.
 
Đến cuối năm 2005, vốn tự có của NHNo&PTNT VN  đạt 7.702tỷ VND, tổng tài sản có trên 190 ngàn tỷ , hơn 2000 chi nhánh trên toàn quốc và 29.492 cán bộ nhân viên (chiếm 40% tổng số CBCNV toàn hệ thống ngân hàng Việt Nam), ứng dụng công nghệ hiện đại, cung cấp những sản phẩm, dịch vụ ngân hàng hoàn hảo…...Đến nay, tổng số Dự án nước ngoài mà NHNo&PTNT VN tiếp nhận và triển khai là 68 dự án với tổng số vốn 2.486 triệu USD, trong đó giải ngân qua NHNo là 1,5 tỷ USD. Hiện nay NHNo&PTNT VN đã có quan hệ đại lý với 932 ngân hàng đại lý tại 112 quốc gia và vùng lãnh thổ, là  thành viên của nhiều tổ chức, hiệp hội tín dụng có uy tín lớn.
 
Từ năm 2006 bằng những giải pháp mang tính đột phá và cách làm mói NHNo&PTNT VN  (Agribank) thực sự khởi sắc. Đến cuối năm 2007, tổng tài sản đạt 325.802 tỷ đồng tương đương với 20 tỷ USD gấp gần 220 lần so với ngày đầu thành lập. Tổng dư nợ cho vay nền kinh tế đạt 242.102 tỷ đồng trong đó cho vay nông nghiệp nông thôn chiếm trên 70% với trên 10 triệu hộ gia đình, cho vay doanh nghiệp nhỏ và vừa chiếm trên 36% với gần 3 vạn doanh nghiệp dư nợ. Tổng nguồn vốn 295.048 tỷ đồng và gần như hoàn toàn là vốn huy động.
 
Năm 2008 là năm ghi dấu chặng đường 20 năm xây dựng và trưởng thành của Agribank và cũng là năm có tính quyết định trong tiến trình hội nhập kinh tế quốc tế theo chủ trương của Đảng, Chính phủ. Trong chiến lược phát triển của mình, Agribank sẽ trở thành một Tập đoàn tài chính đa nghành, đa sở hữu, hoạt động đa lĩnh vực. Theo đó, toàn hệ thống xác định những mục tiêu lớn phải ưu tiên, đó là: Tiếp tục giữ vai trò chủ đạo, chủ lực trên thị trường tài chính nông thôn, luôn là người bạn đông hành thủy chung tin cậy cuả 10 triệu hộ gia đình; đảy mạnh tái cơ cấu ngân hàng, giải quyết triệt để vấn đề nợ xấu, đạt hệ số an toàn vốn theo tiêu chuẩn quốc tế, phát triển hệ thống công nghệ thông tin, đa dạng hóa sản phẩm , nâng cao chất lượng dịch vụ, chuẩn bị nguồn nhân lực chất lượng cao, đảm bảo các lợi ích của người lao động và phát triển thương hiệu- văn hóa Agribank.

Trên nền tảng công nghệ thông tin hiện đại và nhận thức rõ vai trò của các sản phẩm dịch vụ ngoài tín dụng truyền thống, năm 2009 Agribank chú trọng giới thiệu và phát triển các sản phẩm, dịch vụ ngân hàng tiện ích tiên tiến, điển hình là các dịch vụ Mobile Banking như: SMS Banking, VnTopup, ATransfer, Apaybill, VnMart;     kết nối thanh toán với Kho bạc, Hải quan trong việc phối hợp thu ngân sách; phát hành được trên 4 triệu thẻ các loại.

2009 cũng là năm Agribank ưu tiên và chú trọng công tác đào tạo, bồi dưỡng đội ngũ cán bộ đáp ứng yêu cầu của cạnh tranh và hội nhập.  Triển khai thành công mô hình đào tạo trực tuyến; Tuyển thêm trên 2000 cán bộ trẻ, được đào tạo căn bản, có ngoại ngữ và tin học nhằm chuẩn bị nguồn lực cho các năm tiếp theo.

Đến cuối năm 2009, tổng tài sản của Agribank đạt xấp xỉ 470.000 tỷ đồng, tăng 22% so với  năm 2008; tổng nguồn vốn đạt 434.331 tỷ đồng, tổng dư nợ nền kinh tế đạt 354.112 tỷ đồng, trong đó cho vay nông nghiệp nông thôn đạt 242.062 tỷ đồng. 
 
9 Ngân hàng Nông nghiệp & PTNT (AGRIBANK) - Chi nhánh Cao Bằng
 Số 62, đường Hoàng Đình Giong, TX Cao Bằng
 026 3852 932
 
10 AGRIBANK - Tân Giang
 Phường Tân Giang, TX Cao Bằng
 026 3852 617
 
11 AGRIBANK - Huyện Bảo Lạc
 Thị trấn Bảo Lạc, huyện Bảo Lạc
 026 3870 304
 
12 AGRIBANK - Huyện Bảo Lâm
 Thị trấn Pác Mẫu, huyện Bảo Lâm
 026 3885 161
 
13 AGRIBANK - Huyện Hạ Lang
 Thị trấn Thanh Nhật, huyện Hạ Lang
 026 3830 203
 
14 AGRIBANK - Huyện Hà Quảng
 Thị trấn Xuân Hoà, huyện Hà Quảng
 026 3862 210
 
15 AGRIBANK - Huyện Hoà An
 Thị trấn Nước Hai, huyện Hoà An
 026 3860 652
 
16 AGRIBANK - Huyện Nguyên Bình
 Thị trấn Nguyên Bình, huyện Nguyên Bình
 026 3872 143
 
17 AGRIBANK - Huyện Phục Hoà
 Xã Hoà Thuận, huyện Phục Hoà
 026 3822 206
 
18 AGRIBANK - Huyện Quảng Uyên
 Thị Trấn Quảng Uyên, huyện Quảng Uyên
 026 3820 336
 
19 AGRIBANK - Huyện Thạch An
 Thị trấn Đông Khê, huyện Thạch An
 026 3840 246
 
20 AGRIBANK - Huyện Trùng Khánh
 Thị trấn Trùng Khánh , huyện Trùng Khánh
 026 3826 133
 
21 AGRIBANK - Huyện Trà Lĩnh
 Thị trấn Hùng Quốc, huyện Trà Lĩnh
 026 3880 113
 
22 AGRIBANK - Huyện Thông Nông
 Thị trấn Thông Nông, huyện Thông Nông
 026 3875 360