Sau Hiệp định Giơnevơ tháng 7/1954, Thường vụ Liên khu ủy 5 điện Tỉnh ủy Phú Yên, tỉnh được cử 7 đồng chí đi tập kết trong đó có đồng chí Trần Ý, Ủy viên Ban Thường vụ Tỉnh ủy, Giám đốc Công an tỉnh, đồng chí Huỳnh Nựu, Phó trưởng ban Tổ chức Tỉnh ủy. Tôi đang phân vân chưa biết sẽ làm gì, thì Bí thư Tỉnh ủy Lê Vụ gặp tôi và nói: Anh ở lại phụ trách Văn phòng Tỉnh ủy, trước mắt là lo chỗ ở của cơ quan Tỉnh ủy ở xã An Lĩnh, huyện Tuy An và tiếp theo là các xã Sơn Long, Sơn Định, Sơn Xuân, Suối Bạc, Hòn Ông, Cà Lúi huyện Sơn Hòa.
Cơ quan Tỉnh ủy, ngoài đồng chí Bí thư Tỉnh ủy có các đồng chí Nguyễn Như, Ủy viên Ban Thường vụ Tỉnh ủy phụ trách hai huyện Tuy An và Đồng Xuân, đồng chí Nguyễn Đình Thành, Ủy viên Ban Thường vụ Tỉnh ủy phụ trách hai huyện Tuy Hòa 1, Tuy Hòa 2. Trừ huyện Sơn Hòa, các huyện Tuy Hòa 1, Tuy Hòa 2, Tuy An và Đồng Xuân đều có Tỉnh ủy viên trực tiếp làm Bí thư Huyện ủy.
Văn phòng Tỉnh ủy lúc bấy giờ, ngoài tôi, có đồng chí Ung Thẩn quê xã Hòa Trị làm cán bộ nghiên cứu, đồng chí Tường quê xã An Hòa phụ trách quản trị, đồng chí Lê Chơi liên lạc trực thấu, 1 vô tuyến điện 15wat 5 người và 1 trạm liên lạc đầu mối 3 đồng chí. Ngoài ra còn có đồng chí Hà Phùng tức Dư Huy làm trợ lý cho đồng chí Bí thư Tỉnh ủy.
Chỗ ở của cơ quan bố trí ở vùng 1 xã An Lĩnh, đài vô tuyến điện đặt ở thôn Quang Đức xã An Thọ, trạm đầu mối của tỉnh đầu tiên đặt ở thôn Phong Nhiêu xã An Nghiệp.
Việc cần làm đầu tiên của Văn phòng Tỉnh ủy là phải giữ liên lạc với các huyện ủy vừa được thành lập lại. Ở huyện Sơn Hòa phải bảo đảm liên lạc với hai đồng chí Nguyễn Kiết và Lương Công Huề, Bí thư và Phó bí thư Huyện ủy; huyện Đồng Xuân phải giữ liên lạc với đồng chí Phan Thanh Cưu, Bí thư Huyện ủy, đồng chí Nguyễn Khắc Điềm, Phó bí thư Huyện ủy. Huyện Tuy Hòa 2 phải giữ liên lạc với đồng chí Trần Xứng, Bí thư Huyện ủy. Huyện Tuy An thì rất thuận lợi, đồng chí Phạm Nghị, Bí thư Huyện ủy đang ở vùng 6 xã An Lĩnh, đồng chí Lư Tý, Phó bí thư đang ở Mỹ Long xã An Dân. Riêng huyện Tuy Hòa 1, ngay từ đầu, Văn phòng tổ chức liên lạc hợp pháp của Văn phòng Tỉnh ủy do đồng chí Nguyễn Lo phụ trách liên lạc với đồng chí Văn Gói, Bí thư Huyện ủy, đồng chí Huỳnh Mai, Phó bí thư Huyện ủy. Theo ý kiến đồng chí Bí thư Tỉnh ủy, tôi thường đi Kỳ Lộ xã Xuân Quang gặp đồng chí Phan Thanh Cưu, đi Phú Cốc xã An Chấn gặp đồng chí Trần Xứng, đi vùng 6 xã An Lĩnh gặp đồng chí Phạm Nghị, đi Suối Trai gặp đồng chí Lương Công Huề, vừa nắm tình hình, vừa truyền đạt ý kiến chỉ đạo của đồng chí Bí thư Tỉnh ủy.
Đầu tháng 8/1954, tôi về xã Hòa Kiến quê tôi, nắm tình hình ở nội ô TX Tuy Hòa. Đồng chí Nguyễn Quang, Phó bí thư chi bộ xã, triệu tập một cuộc họp lớn, có hơn 1.000 người dự tại thôn Thọ Bình nghe tôi nói với đồng bào và cán bộ trong xã về thắng lợi của Hiệp định Giơnevơ năm 1954, nhiệm vụ đấu tranh đòi đối phương phải thi hành Hiệp định Giơnevơ. Nhân dân vừa mừng vừa lo, nhiều người đã thấy địch sẽ không thi hành Hiệp định Giơnevơ.
Từ tháng 9/1954, địch tiến hành khủng bố những người kháng chiến cũ, bắt giết một số cán bộ ta. Ở Đồng Xuân, đồng chí Phan Thanh Cưu diệt một tên ác ôn, tôi rất hoan nghênh, nhưng theo chủ trương lúc bấy giờ là chưa được diệt ác ôn.
Giữa tháng 9/1954, đồng chí Lê Đài đã đi tập kết theo diện lực lượng vũ trang trở về xã An Lĩnh. Gặp tôi, anh nói: Liên khu ủy 5 có quyết định rút anh Lê Vụ về làm Chánh Văn phòng Liên khu ủy, anh về làm Bí thư Tỉnh ủy thay đồng chí Lê Vụ. Văn phòng Tỉnh ủy bố trí anh Lê Đài ở nhà ông Bầu, nhà ở sát suối lớn giáp huyện Sơn Hòa, thuận tiện cho đồng chí Lê Đài nếu An Lĩnh không ở được thì chuyển lên xã Sơn Long huyện Sơn Hòa. Tôi đi Phú Cốc gặp đồng chí Trần Xứng. Anh đang gặp khó khăn trong việc bám trụ ở Tuy Hòa 2 vì bị lộ khi anh gánh một gánh bông vải về thôn Thượng Phú xã Hòa Kiến. Anh Trần Xứng bảo tôi báo cáo với đồng chí Lê Đài cho anh đi tập kết và sau đó anh đi ra tỉnh Bình Định thay đồng chí Trần Ý đã đi tập kết. Tôi đi ra xóm Gò vùng 7 xã An Lĩnh gặp đồng chí Lê Duy Hinh, nguyên Bí thư Huyện ủy Tuy An vừa ở Hòa Đa xã An Mỹ lên xã An Lĩnh. Nguyễn Phụng Cương, nguyên Phó bí thư chi bộ xã An Lĩnh phản trắc, dẫn người vây bắt tôi và đồng chí Lê Duy Hinh. Chúng tôi mỗi người cầm một đòn gánh chống lại. Nguyễn Phụng Cương tìm thêm lực lượng. Anh Lê Duy Hinh sau khi gặp tôi quay xuống xã An Hiệp, tôi đi vào chùa Hố Thị, xã An Thọ.
Cuối tháng 9/1954, địch bắt đầu lùng quét một số nơi ở miền núi. Sự phản trắc của Nguyễn Phụng Cương làm cho Tỉnh ủy không thể ở được xã An Lĩnh. Đồng chí Lê Đài bảo tôi phải nhanh chóng chuyển lên thôn Trung Trinh xã Sơn Long, nơi tôi đã chuẩn bị và đã báo cáo với đồng chí Bí thư Tỉnh ủy Lê Đài anh sẽ ở nhà cụ Nuỗng, còn anh em khác ở trong nhà dân ở xóm nhà đồng chí Khải.
Tôi tranh thủ về thôn Phước Hậu, quê tôi, vừa thăm cha mẹ, chuẩn bị thêm một vài đồ dùng cần thiết, báo cho cha tôi là tôi ở lại miền Nam không đi tập kết và tìm mua một tấm lưới một để đánh cá cải thiện đời sống.
Không nắm được tình hình ở quê nhà từ Thọ Vức tôi băng qua các cánh đồng lúa ở Tường Quang, Minh Đức, Phước Hậu. Vừa đi vừa lo không biết có lính địch ở trong nhà không và luôn suy nghĩ cách xử lý tình huống nếu có địch ở trong nhà. Tôi thầm đọc các câu thơ Tố Hữu:
Đời cách mạng từ khi tôi đã hiểu
Dấn thân vô là phải chịu tù đày
Là gươm kề tận cổ, súng kề tai
Là thân sống chỉ coi còn một nửa...
Đến nửa đêm, tôi về đến nhà, định bụng gõ cửa nhưng không dám gọi. Tôi ngồi trong chuồng trâu chờ. Đến 2 giờ sáng nhìn thấy cha tôi ở trong nhà mở cửa đi ra, tôi mừng quá ôm cha tôi và hỏi có địch trong nhà không. Cha tôi hỏi tôi về chừng nào đi, tôi trả lời độ 3 giờ sáng con quay lên. Tôi báo cha tôi Tỉnh ủy phân công con ở lại, nếu rủi con bị bắt thì gia đình không nên vào nhà lao Ngọc Lãng, để tự con lo liệu. Cha tôi khuyên tôi “Việc gì Đảng giao, con phải cố hết sức làm tròn, mọi việc ở nhà đã có ba lo”. Tôi không ngờ lần ấy là lần gặp cuối cùng của tôi về người cha mà tôi yêu quý nhất trong đời.
Cha con tôi đang nói chuyện ngoài sân, thì mẹ tôi ra. Mẹ tôi nhất định không cho tôi quay trở lại, bảo tôi lẩn trốn đâu đó, chiều tối về nhà nhận các thứ tôi dặn mẹ tôi mua rồi mới đi. Ở lại 1 ngày, tôi chui vào ruộng lúa đã gần chín, lẩn vào giữa ruộng, khá an toàn. 5 giờ chiều tôi về nhà. Tôi đang ở trong nhà thì 2 tên mật vụ người trong xã vào nhà tôi. Chúng không biết tôi có ở nhà, hỏi cha tôi: Thằng Trợ có về không? Nó có đi tập kết không? Cha tôi nói: Đã lâu nó không về, có lẽ nó đi tập kết rồi. Hai tên mật vụ về thôn Minh Đức. Mẹ tôi chuẩn bị đủ các thứ: 1 xếp vải ú đen, 1 tấm lưới một, 1 cái mũ và cho tôi một ít tiền. Tôi thao thức cả đêm, ngồi ôm đứa con gái đầu lòng mà từ khi mẹ nó sinh ra tôi chưa biết mặt. Vợ tôi bị sốt rét nặng đang ở trong buồng. Đến 2 giờ sáng, tôi xin phép cha mẹ tôi quay trở lại. Em tôi là Huỳnh Thị Khiết tiễn chân tôi lên đến chợ Sơn Triều, em đăm đăm nhìn theo tôi cho đến khi tôi đã khuất vào rừng.
Theo như kế hoạch đã bàn, tôi lên Quang Đức xã An Thọ, đưa 6 anh em tổ điện đài lên ở Hố Thẩm xã Suối Bạc. Nơi đây là một gộp đá to và kín đáo, giáp rẫy lúa của dân. Tôi gặp ông Chánh Giấy, Chủ tịch xã Suối Bạc giao nhiệm vụ bảo vệ điện đài và giúp đỡ anh em điện đài làm nhiệm vụ trong lúc còn nhiều khó khăn và thiếu thốn. Bố trí xong nơi đặt điện đài, tôi về lại Trung Trinh xã Sơn Long.
Về đến nhà ông Nuỗng, anh Lê Đài đang lên cơn sốt nặng. Anh dặn tôi nếu địch có lùng sục vào đây, cậu cứ chạy đánh lạc hướng vì anh quá mệt, anh sẽ lẩn vào rừng. Tôi không ngờ, ngày 28/10/1954, tôi đi Sơn Định, chuẩn bị cuộc họp Tỉnh ủy ở trại ông giáo Tấn, thì ở nhà địch càn vào thôn Trung Trinh. Do có bọn chỉ điểm, địch lùng vào nhà đồng chí phụ trách trạm đầu mối, các đồng chí bỏ chạy ra Bình Định, không báo cho đồng chí Phạm Nghị, Tỉnh ủy viên về họp Tỉnh ủy ở gần đó và anh Phạm Nghị bị địch bắt. Cùng bị bắt có đồng chí Nguyễn Thanh Hương, nguyên Phó chủ nhiệm chính trị Tỉnh đội và đồng chí Lê Chơi, liên lạc trực thấu của Văn phòng Tỉnh ủy. Chúng tra tấn 3 đồng chí bị bắt rất dã man, dùng búa đánh gãy răng đồng chí Phạm Nghị vì anh không khai báo cơ sở. Chiều hôm ấy chúng đưa cả 3 đồng chí bị bắt đến truông Bà Giêng, bắn chết cả 3 đồng chí và vứt xác xuống một cái hầm bẩy heo rừng của dân ở bên lề đường đi, cấm không cho ai chôn. Nhân dân xã Sơn Long vô cùng khâm phục khí tiết cách mạng của 3 đồng chí đã lén đến đắp mộ, trồng lên đó một cây mít, tạo thuận lợi cho sau này cách mạng bốc mộ cho các đồng chí ấy.
Nghe dân báo địch càn ở Trung Trinh, từ nhà ông giáo Tấn, tôi đi về Sơn Long. Vừa ra khỏi nhà được một đoạn ngắn, gặp một đại đội địch đang lùng sục. Địch cố bắt tôi và anh Thẩn người ở Hòa Trị được bố trí đi công tác với tôi. Địa thể ở Sơn Định rất khó lẩn trốn, tôi giả làm người buôn bò, đi rẽ vào nhà dân thì địch nổ súng bắt đứng lại. Tôi liều chết, chạy quanh ra phía nhà sau và chạy ngược trở lại, chui vào một rừng gai quít. Địch bắn xối xả vào chòm rừng gai quít và hí hửng báo cho dân hôm nay chúng diệt được 2 tên Cộng sản cao cấp nằm vùng. Bị gai quít quào, quần áo tôi bị rách, không còn mặc được. Đồng chí Thẩn chạy sau tôi nên có đỡ rách hơn. Tôi bảo Thẩn vào 1 chòi nhà ở Suối Quéo xin cơm ăn và nhờ vá cho tôi cái quần đùi. Bà cụ và người con gái Sơn Định tốt bụng rất mừng hai anh em tôi không chết như địch nói, giúp đỡ chúng tôi rất tận tình.
Hôm sau tôi gặp đồng chí Lê Đài, báo cáo anh việc chúng tôi đã chuẩn bị xong chỗ ở Hòn Ông và đã bố trí anh sẽ ở nhà đồng chí Bá Nam Trung. Đồng chí Lê Đài dặn tôi phải chuẩn bị tiếp chỗ ở xã Cà Lúi và liên lạc với các đồng chí ở Đất Bằng huyện Cheo Reo tỉnh Đắk Lắk. Tôi xin anh cho điều động đồng chí Tự, Bí thư chi bộ xã Sơn Phước về Văn phòng Tỉnh ủy, cùng tôi chuẩn bị chỗ ở và xây dựng vùng căn cứ Khu A.
Sau đồng chí Phạm Nghị hy sinh, Thường vụ Tỉnh ủy bổ sung tôi về Thường vụ Huyện ủy Tuy An. Tôi tranh thủ đi về Tuy An, thì ở nhà, ông Chánh Giấy Suối Bạc bị địch bắt. Bị tra tấn đau quá, ông bảo người nhà về báo cho tôi nên dời ngay điện đài ở Hố Thẩm đi nơi khác. Ông nói nó đánh đau quá, ông không chịu nổi, hai hôm nữa ông sẽ dẫn địch về Hố Thẩm chỉ chỗ ta bố trí điện đài. Đúng ngày ông Chánh Giấy báo, ông đưa địch về Hố Thẩm, anh em ta vứt máy xuống gộp đá, địch lấy 1 cái dây ăng-ten. Chúng lu loa là đã lấy được vô tuyến điện của ta. Không biết thực hư ra sao, tôi về đến Hòn Ông, anh Lê Đài bảo tôi phải đi Hố Thẩm xác minh có phải địch lấy vô tuyến điện của ta không? Tôi và anh Bá Nam Trung xuyên rừng đi Hố Thẩm; gặp dân ở Suối Bạc, thì rõ là tổ điện đài của ta sau khi vứt máy, không ai bị địch bắt, tìm đường ra Bình Định và đi tập kết. Dân cho biết địch chỉ lấy cái ăng-ten của vô tuyến điện.
Tôi cùng anh Bá Nam Trung xuyên rừng về lại Hòn Ông. Chưa kịp nghỉ thì đồng chí Lê Đài phân công tôi đi Cà Lúi. Qua nắm tình hình xã Cà Lúi, đồng chí Bí thư chi bộ đã dao động, đồng chí Ma Tho, Phó bí thư kiêm Chủ tịch xã thì rất vững vàng. Hai tên chỉ điểm ở xã Sơn Hội Của và Cảnh thường lên xuống các buôn xã Cà Lúi. Tôi phân công anh Tự phụ trách trạm liên lạc đầu mối của Tỉnh ủy ở buôn Ma Thìn và đi Ma Lúa, làng của đồng chí Ma Tho. Đồng chí Ma Tho đề nghị tôi cho đồng chí “xử êm” 2 tên chỉ điểm ở Tân Lương xã Sơn Hội, tôi rất muốn để cho đồng chí Ma Tho xử nhưng nghĩ đến chuyện đồng chí Phan Thanh Cưu làm, bị cảnh cáo toàn Liên khu, không dám làm.
Vì không liên lạc được với Tỉnh ủy Phú Yên, Thường vụ Liên khu ủy 5 cử đồng chí Lê Vụ, Liên khu ủy viên đi công tác Phú Yên. Các đồng chí Khu B (miền tây Đồng Xuân) đón và đưa đồng chí Lê Vụ vào cơ quan Tỉnh ủy ở Cà Lúi. Tôi được cử đi đón đồng chí Lê Vụ ở điểm hẹn là thôn Tân Lương xã Sơn Hội. Xa đồng chí Lê Vụ mới 4 tháng trông anh đã gầy đi nhiều. Có một việc mà tôi không thể nào quên là anh bỏ gần chục con cá lép muối trong túi áo bà ba. Hỏi ra tôi mới biết là anh mới mua trên đường đi vào. Tôi đưa anh nghỉ đêm ở một chòi giữ rẫy lúa gần buôn Ma Thìn, trạm đầu mối của tỉnh. Chòi rẫy quá nhiều rệp tôi không thể nào ngủ được, nhưng anh Lê Vụ có lẽ vì đường xa quá mệt, anh ngủ ngon lành. Sau buổi làm việc với đồng chí Lê Đài ở buôn Ma Lúa, đồng chí Lê Vụ quyết định mời Ban Thường vụ Tỉnh ủy, một số đồng chí chủ trì các huyện đi ra Diêu Trì tỉnh Bình Định gặp đồng chí Võ Chí Công, Phó bí thư Thường trực Liên khu ủy 5.
Tôi ở lại Cà Lúi giữ liên lạc với các huyện. Theo kế hoạch, tôi và đồng chí Ma Tự lên vùng Đất Bằng huyện Cheo Reo. Lên đến Ma Phu thì gặp một đại đội lính áo đen của ngụy đang lùng bắt cán bộ ta. Vì phải lách địch mà đi, chúng tôi lạc đường đến buôn Oai Đát, Oai Khảm. Cơ sở cách mạng của xã phát hiện anh em tôi về báo đồng chí Bí thư chi bộ xã. Đồng chí Bí thư chi bộ xã cải trang giống như đồng bào dân tộc đến chỗ chúng tôi. Tôi không ngờ người đó là đồng chí Ma H’Oanh, con bà cô tôi đang hoạt động ở vùng này. Đồng chí Ma H’Oanh gặp tôi mừng lắm, nói: “Không biết vùng lắm cọp sao mà chui vào vùng này”, chỉ cho chúng tôi cách lánh địch đang lùng sục, đi về lại xã Cà Lúi. Trong đêm tối, đôi mắt anh Tự sáng lên, anh dẫn tôi lách qua hai trung đội địch đang chốt trên đường đi, về đến Cà Lúi an toàn. Trong chuyến đi này việc học của tôi về công tác tình báo lần đầu tiên được đem ra áp dụng: Tôi dùng khăn mu-soa gói gạo ướt, đào một lỗ nhỏ dưới đất, đốt củi lên trên, cũng tạo được cơm vì hai anh em quá đói qua một đêm lách địch mà đi.
Những ngày ở lại miền Nam sau Hiệp định Giơnevơ, cách mạng đang ở thế thoái trào, địch rất ngoan cố phá bỏ hiệp định, thực lực cách mạng bị tổn thất rất lớn nhưng lòng dân vẫn hướng theo Đảng, tin tưởng Bác Hồ, là một thời kỳ không thể nào quên trong đời làm công tác Văn phòng cấp ủy của tôi.