chiDT
216311b558
- 모든 도서관 검색기에서 검색결과 없음시 구체적인 HTML 조각 추출 - BookSearchResult에 Resulthtml 속성 추가하여 매칭된 HTML 컨텍스트 저장 - Helper_LibraryDelaySettings.cs 추가로 도서관별 검색 지연시간 XML 저장 - Check_copyWD.cs에 dvc_resulthtml 컬럼 표시 및 지연시간 저장 UI 구현 - 15개 SearchModel 파일에서 htmlContent 1000자 자르기를 의미있는 메시지로 교체 - HTTP 검색기들에 한글 인코딩 문제 해결을 위한 헤더 개선 🤖 Generated with [Claude Code](https://claude.ai/code) Co-Authored-By: Claude <noreply@anthropic.com>
614 lines
25 KiB
C#
614 lines
25 KiB
C#
using AngleSharp.Dom;
|
|
using AR;
|
|
using OpenQA.Selenium;
|
|
using OpenQA.Selenium.Chrome;
|
|
using OpenQA.Selenium.Chromium;
|
|
using OpenQA.Selenium.Interactions;
|
|
using OpenQA.Selenium.Support.UI;
|
|
using System;
|
|
using System.IO;
|
|
using System.Linq;
|
|
using System.Net.Http.Headers;
|
|
using System.Runtime.CompilerServices;
|
|
using System.Runtime.InteropServices;
|
|
using System.Text.RegularExpressions;
|
|
using System.Threading;
|
|
using System.Threading.Tasks;
|
|
using System.Web.UI.WebControls;
|
|
using System.Xml.Linq;
|
|
using UniMarc.SearchModel;
|
|
using UniMarc.마크;
|
|
using WebDriverManager;
|
|
using WebDriverManager.DriverConfigs.Impl;
|
|
|
|
namespace BokBonCheck
|
|
{
|
|
public class AnsanLibSearcher : ILibrarySearcher
|
|
{
|
|
public string AreaCode { get; set; } = string.Empty;
|
|
public string SiteName { get; protected set; }
|
|
public string SiteUrl => "https://lib.ansan.go.kr/DetailSearch";
|
|
public bool HttpApiMode { get; set; } = false;
|
|
|
|
public int No { get; set; }
|
|
|
|
private ChromiumDriver _driver;
|
|
|
|
public AnsanLibSearcher(int no, string areaCode, string areaName)
|
|
{
|
|
this.No = no;
|
|
this.AreaCode = areaCode;
|
|
this.SiteName = $"안산시립({areaName})";
|
|
}
|
|
|
|
public void StopDriver()
|
|
{
|
|
if (_driver != null)
|
|
{
|
|
_driver.Quit();
|
|
_driver.Dispose();
|
|
_driver = null;
|
|
}
|
|
}
|
|
|
|
public async Task StartDriver(bool showdriver = false)
|
|
{
|
|
if (_driver == null)
|
|
{
|
|
try
|
|
{
|
|
if (SeleniumHelper.IsReady == false) await SeleniumHelper.Download();
|
|
_driver = await SeleniumHelper.CreateDriver(ShowBrowser: showdriver);
|
|
|
|
// 브라우저 배율을 80%로 설정 (브라우저가 표시되는 경우에만)
|
|
if (showdriver)
|
|
{
|
|
try
|
|
{
|
|
((IJavaScriptExecutor)_driver).ExecuteScript("document.body.style.zoom = '0.8';");
|
|
Console.WriteLine("브라우저 배율을 80%로 설정했습니다.");
|
|
}
|
|
catch (Exception zoomEx)
|
|
{
|
|
Console.WriteLine($"브라우저 배율 설정 실패: {zoomEx.Message}");
|
|
}
|
|
}
|
|
|
|
Console.WriteLine("AnsanLibSearcher Driver 초기화 완료");
|
|
}
|
|
catch (Exception ex)
|
|
{
|
|
Console.WriteLine($"AnsanLibSearcher Driver 초기화 실패: {ex.Message}");
|
|
throw new InvalidOperationException($"AnsanLibSearcher Driver 초기화에 실패했습니다: {ex.Message}", ex);
|
|
}
|
|
}
|
|
}
|
|
|
|
virtual protected bool SelectLibrary(WebDriverWait wait)
|
|
{
|
|
try
|
|
{
|
|
Console.WriteLine("도서관 선택 과정 시작...");
|
|
|
|
// 1. 열기버튼 찾기 (작은도서관 체크박스가 보이도록)
|
|
var element = wait.Until(d => d.FindElement(By.CssSelector(".btIco.plus")));
|
|
if (element != null)
|
|
{
|
|
SafeClick(element);
|
|
}
|
|
|
|
// 2. 현재 체크된 상태 확인
|
|
var allCheckboxes = wait.Until(d => d.FindElements(By.CssSelector("div.library input[type='checkbox']")));
|
|
var checkedCheckboxes = allCheckboxes.Where(cb => cb.Selected).ToList();
|
|
|
|
Console.WriteLine($"현재 체크된 체크박스 개수: {checkedCheckboxes.Count}");
|
|
|
|
// 3. 지정한 도서관만 정확히 1개 체크되어 있는지 확인
|
|
bool isTargetOnlyChecked = false;
|
|
if (!string.IsNullOrEmpty(AreaCode))
|
|
{
|
|
if (checkedCheckboxes.Count == 1)
|
|
{
|
|
var onlyChecked = checkedCheckboxes[0];
|
|
var onlyCheckedValue = onlyChecked.GetAttribute("value");
|
|
if (onlyCheckedValue == AreaCode)
|
|
{
|
|
Console.WriteLine($"✓ {AreaCode} 도서관만 정확히 선택되어 있음 - 완료");
|
|
isTargetOnlyChecked = true;
|
|
}
|
|
}
|
|
}
|
|
|
|
// 4. 목표 상태가 아니면 전체선택 버튼으로 모두 해제
|
|
if (!isTargetOnlyChecked)
|
|
{
|
|
Console.WriteLine("전체선택 버튼을 이용해서 모든 체크박스 해제 중...");
|
|
|
|
// 전체선택 버튼들 찾기 (총 2개)
|
|
var allSelectButtons = wait.Until(d => d.FindElements(By.CssSelector("span.btnAllSelect")));
|
|
Console.WriteLine($"전체선택 버튼 {allSelectButtons.Count}개 발견");
|
|
|
|
// 모든 전체선택 버튼 클릭해서 해제
|
|
foreach (var button in allSelectButtons)
|
|
{
|
|
try
|
|
{
|
|
Console.WriteLine("전체선택 버튼 클릭 중...");
|
|
SafeClick(button);
|
|
Thread.Sleep(50);
|
|
}
|
|
catch (Exception ex)
|
|
{
|
|
Console.WriteLine($"전체선택 버튼 클릭 오류: {ex.Message}");
|
|
}
|
|
}
|
|
|
|
// 해제 후 체크된 체크박스 개수 확인
|
|
var remainingChecked = allCheckboxes.Where(cb => cb.Selected).Count();
|
|
Console.WriteLine($"전체선택 버튼 클릭 후 체크된 체크박스 개수: {remainingChecked}");
|
|
|
|
// 5. 지정 도서관만 체크
|
|
if (!string.IsNullOrEmpty(AreaCode))
|
|
{
|
|
Console.WriteLine($"목표 도서관 '{AreaCode}' 선택 중...");
|
|
|
|
try
|
|
{
|
|
var targetCheckbox = wait.Until(d => d.FindElement(By.CssSelector($"div.library input[type='checkbox'][value='{AreaCode}']")));
|
|
|
|
if (!targetCheckbox.Selected)
|
|
{
|
|
Console.WriteLine($"{AreaCode} 도서관 체크 중...");
|
|
SafeClick(targetCheckbox);
|
|
Thread.Sleep(300);
|
|
}
|
|
|
|
// 최종 선택 상태 확인
|
|
if (targetCheckbox.Selected)
|
|
{
|
|
Console.WriteLine($"✓ {AreaCode} 도서관 선택 완료");
|
|
}
|
|
else
|
|
{
|
|
Console.WriteLine($"✗ {AreaCode} 도서관 선택 실패");
|
|
return false;
|
|
}
|
|
}
|
|
catch (Exception ex)
|
|
{
|
|
Console.WriteLine($"목표 도서관 선택 실패: {ex.Message}");
|
|
return false;
|
|
}
|
|
}
|
|
else
|
|
{
|
|
Console.WriteLine("AreaCode가 비어있음 - 전체 도서관으로 검색");
|
|
}
|
|
}
|
|
|
|
return true;
|
|
}
|
|
catch (Exception ex)
|
|
{
|
|
Console.WriteLine($"도서관 선택 실패: {ex.Message}");
|
|
return false;
|
|
}
|
|
}
|
|
protected void SafeClick(IWebElement element)
|
|
{
|
|
// 안정적인 클릭을 위한 여러 방법 시도
|
|
try
|
|
{
|
|
// 1. 요소가 보이도록 스크롤 후 일반 클릭
|
|
((IJavaScriptExecutor)_driver).ExecuteScript("arguments[0].scrollIntoView(true);", element);
|
|
Thread.Sleep(300);
|
|
element.Click();
|
|
}
|
|
catch
|
|
{
|
|
try
|
|
{
|
|
// 2. JavaScript로 클릭 시도
|
|
((IJavaScriptExecutor)_driver).ExecuteScript("arguments[0].click();", element);
|
|
}
|
|
catch
|
|
{
|
|
try
|
|
{
|
|
// 3. Actions 클래스 사용
|
|
var actions = new Actions(_driver);
|
|
actions.MoveToElement(element).Click().Perform();
|
|
}
|
|
catch
|
|
{
|
|
try
|
|
{
|
|
// 4. 체크박스의 경우 직접 체크 상태 변경
|
|
if (element.TagName.ToLower() == "input" && element.GetAttribute("type") == "checkbox")
|
|
{
|
|
((IJavaScriptExecutor)_driver).ExecuteScript("arguments[0].checked = !arguments[0].checked;", element);
|
|
}
|
|
else
|
|
{
|
|
// 일반 요소는 강제 클릭
|
|
((IJavaScriptExecutor)_driver).ExecuteScript("arguments[0].dispatchEvent(new Event('click'));", element);
|
|
}
|
|
}
|
|
catch (Exception ex)
|
|
{
|
|
Console.WriteLine($"모든 클릭 방법 실패: {ex.Message}");
|
|
}
|
|
}
|
|
}
|
|
}
|
|
}
|
|
public async Task<BookSearchResult> SearchAsync(string searchTerm)
|
|
{
|
|
var result = new BookSearchResult
|
|
{
|
|
SiteName = SiteName,
|
|
SearchTerm = searchTerm,
|
|
SearchTime = DateTime.Now
|
|
};
|
|
|
|
try
|
|
{
|
|
// 드라이버가 없으면 자동으로 시작
|
|
if (_driver == null)
|
|
{
|
|
await StartDriver();
|
|
}
|
|
|
|
var cururl = _driver.Url;
|
|
if (cururl.Equals(SiteUrl) == false)
|
|
_driver.Navigate().GoToUrl(SiteUrl);
|
|
|
|
// 페이지 로딩 대기
|
|
var wait = new WebDriverWait(_driver, TimeSpan.FromSeconds(15));
|
|
|
|
// 페이지 로드 후 브라우저 배율을 80%로 설정 (브라우저가 표시되는 경우에만)
|
|
try
|
|
{
|
|
if (_driver.Manage().Window.Size.Width > 0) // 브라우저가 표시되는 경우
|
|
{
|
|
((IJavaScriptExecutor)_driver).ExecuteScript("document.body.style.zoom = '0.8';");
|
|
Console.WriteLine("페이지 로드 후 브라우저 배율을 80%로 설정했습니다.");
|
|
}
|
|
}
|
|
catch (Exception zoomEx)
|
|
{
|
|
Console.WriteLine($"페이지 배율 설정 실패: {zoomEx.Message}");
|
|
}
|
|
|
|
// 도서관 선택
|
|
if (SelectLibrary(wait) == false)
|
|
{
|
|
result.ErrorMessage = "도서관선택실패";
|
|
result.BookCount = -1;
|
|
result.IsSuccess = false;
|
|
return result;
|
|
}
|
|
|
|
// 검색어 입력
|
|
try
|
|
{
|
|
// 검색 입력창이 상호작용 가능할 때까지 대기
|
|
var searchInput = wait.Until(d => d.FindElement(By.Id("advTitle")));
|
|
var dispaly = searchInput.Displayed;
|
|
var enabled = searchInput.Enabled;
|
|
|
|
// 요소가 보이도록 스크롤
|
|
((IJavaScriptExecutor)_driver).ExecuteScript("arguments[0].scrollIntoView(true);", searchInput);
|
|
Thread.Sleep(300);
|
|
|
|
// readonly 속성이 있다면 제거
|
|
((IJavaScriptExecutor)_driver).ExecuteScript("arguments[0].removeAttribute('readonly');", searchInput);
|
|
|
|
// 클릭해서 포커스 맞추기
|
|
try
|
|
{
|
|
searchInput.Click();
|
|
Thread.Sleep(200);
|
|
}
|
|
catch { }
|
|
|
|
// 기존 값 제거 (여러 방법 시도)
|
|
try
|
|
{
|
|
searchInput.Clear();
|
|
}
|
|
catch
|
|
{
|
|
// Clear가 실패하면 JavaScript로 값 제거
|
|
((IJavaScriptExecutor)_driver).ExecuteScript("arguments[0].value = '';", searchInput);
|
|
}
|
|
|
|
// 검색어 입력 (여러 방법 시도)
|
|
try
|
|
{
|
|
searchInput.SendKeys(searchTerm);
|
|
}
|
|
catch
|
|
{
|
|
// SendKeys가 실패하면 JavaScript로 값 설정
|
|
((IJavaScriptExecutor)_driver).ExecuteScript("arguments[0].value = arguments[1];", searchInput, searchTerm);
|
|
|
|
// input 이벤트 발생시켜서 웹페이지에 변경사항 알림
|
|
((IJavaScriptExecutor)_driver).ExecuteScript("arguments[0].dispatchEvent(new Event('input'));", searchInput);
|
|
}
|
|
|
|
Console.WriteLine($"검색어 '{searchTerm}' 입력 완료");
|
|
|
|
}
|
|
catch (Exception ex)
|
|
{
|
|
result.ErrorMessage = $"검색어입력실패({ex.Message})";
|
|
result.BookCount = -1;
|
|
result.IsSuccess = false;
|
|
return result;
|
|
}
|
|
|
|
// 검색 버튼 클릭
|
|
try
|
|
{
|
|
Console.WriteLine("검색 버튼 찾기 시작...");
|
|
|
|
((IJavaScriptExecutor)_driver).ExecuteScript(@"
|
|
// 검색 버튼을 여러 방법으로 찾아서 클릭
|
|
var searchButtons = document.querySelectorAll('a.btTxt.bg.primary');
|
|
for (var i = 0; i < searchButtons.length; i++) {
|
|
var btn = searchButtons[i];
|
|
if (btn.innerText.trim() === '검색' || btn.innerText.includes('검색')) {
|
|
btn.click();
|
|
console.log('검색 버튼 클릭 성공');
|
|
break;
|
|
}
|
|
}
|
|
|
|
// 위 방법이 실패하면 마지막 버튼 클릭
|
|
if (searchButtons.length >= 2) {
|
|
searchButtons[searchButtons.length - 1].click();
|
|
console.log('마지막 버튼 클릭 성공');
|
|
}
|
|
");
|
|
|
|
}
|
|
catch (Exception ex)
|
|
{
|
|
result.ErrorMessage = $"검색버튼클릭실패({ex.Message})";
|
|
result.BookCount = -1;
|
|
result.IsSuccess = false;
|
|
return result;
|
|
}
|
|
|
|
SearchComplete:
|
|
Console.WriteLine("검색 실행 완료, 페이지 로딩 대기 중...");
|
|
|
|
|
|
if (this._driver.Url.EndsWith("DetailSearchResult") == false)
|
|
{
|
|
while (true)
|
|
{
|
|
await Task.Delay(100);
|
|
}
|
|
}
|
|
|
|
|
|
// 페이지 변경을 감지하는 메서드
|
|
await WaitForPageChange(new WebDriverWait(_driver, TimeSpan.FromSeconds(15)));
|
|
|
|
// SearchAsync에서 PageSource 가져오기
|
|
var htmlContent = _driver.PageSource;
|
|
var resultCount = ExtractBookCount(htmlContent, out string ermsg, out string resultHtml);
|
|
result.Resulthtml = resultHtml;
|
|
if (resultCount == -1)
|
|
{
|
|
result.BookCount = 0;
|
|
result.IsSuccess = false;
|
|
result.ErrorMessage = ermsg;
|
|
}
|
|
else
|
|
{
|
|
result.BookCount = resultCount;
|
|
result.IsSuccess = true;
|
|
result.ErrorMessage = ermsg;
|
|
}
|
|
|
|
}
|
|
catch (Exception ex)
|
|
{
|
|
result.IsSuccess = false;
|
|
result.ErrorMessage = ex.Message;
|
|
result.BookCount = 0;
|
|
}
|
|
|
|
return result;
|
|
}
|
|
|
|
private int ExtractBookCount(string htmlContent, out string errmessage, out string resulthtml)
|
|
{
|
|
errmessage = string.Empty;
|
|
resulthtml = string.Empty;
|
|
|
|
try
|
|
{
|
|
// 검색 결과가 없다는 메시지 확인
|
|
var noResultPatterns = new[]
|
|
{
|
|
@"검색결과가 없습니다",
|
|
@"검색된 자료가 없습니다",
|
|
@"자료가 없습니다",
|
|
@"총 0 건",
|
|
@"총 0건"
|
|
};
|
|
|
|
foreach (var pattern in noResultPatterns)
|
|
{
|
|
if (htmlContent.Contains(pattern))
|
|
{
|
|
errmessage = "검색결과없음";
|
|
var match = System.Text.RegularExpressions.Regex.Match(htmlContent, pattern);
|
|
if (match.Success)
|
|
{
|
|
resulthtml = ExtractResultContext(htmlContent, match);
|
|
}
|
|
else
|
|
{
|
|
resulthtml = htmlContent.Length > 500 ? htmlContent.Substring(0, 500) : htmlContent;
|
|
}
|
|
return 0;
|
|
}
|
|
}
|
|
|
|
// HTML에서 다양한 패턴 찾기 (안산시 도서관 특화)
|
|
var htmlPatterns = new[]
|
|
{
|
|
@"총\s*(\d+)\s*건",
|
|
@"<em[^>]*>총\s*(\d+)\s*건\s*</em>",
|
|
@"검색결과\s*:\s*총\s*(\d+)\s*건",
|
|
@"전체\s*(\d+)\s*건",
|
|
@"검색결과\s*총\s*(\d+)\s*건",
|
|
@"검색\s*결과\s*\(\s*총\s*(\d+)\s*건\s*\)",
|
|
@"총\s*<[^>]*>(\d+)</[^>]*>\s*건"
|
|
};
|
|
|
|
foreach (var pattern in htmlPatterns)
|
|
{
|
|
var match = Regex.Match(htmlContent, pattern, RegexOptions.IgnoreCase);
|
|
if (match.Success)
|
|
{
|
|
if (int.TryParse(match.Groups[1].Value, out int count))
|
|
{
|
|
// 매칭된 부분과 상위 태그 추출하여 resulthtml에 저장
|
|
resulthtml = ExtractResultContext(htmlContent, match);
|
|
|
|
if (count == 0)
|
|
{
|
|
errmessage = "검색결과없음";
|
|
return 0;
|
|
}
|
|
errmessage = $"검색성공({count}권)";
|
|
return count;
|
|
}
|
|
}
|
|
}
|
|
|
|
errmessage = "결과수량을찾을수없음";
|
|
resulthtml = htmlContent.Length > 500 ? htmlContent.Substring(0, 500) : htmlContent;
|
|
return -1;
|
|
|
|
}
|
|
catch (Exception ex)
|
|
{
|
|
errmessage = ex.Message;
|
|
resulthtml = htmlContent.Length > 500 ? htmlContent.Substring(0, 500) : htmlContent;
|
|
return -1;
|
|
}
|
|
}
|
|
|
|
/// <summary>
|
|
/// 매칭된 결과와 그 상위 태그를 추출
|
|
/// </summary>
|
|
private string ExtractResultContext(string htmlContent, Match match)
|
|
{
|
|
try
|
|
{
|
|
var matchIndex = match.Index;
|
|
var matchLength = match.Length;
|
|
|
|
// 매칭된 위치 앞쪽에서 상위 태그 시작 찾기
|
|
var startSearchIndex = Math.Max(0, matchIndex - 200); // 매칭 위치 200자 전부터 검색
|
|
var searchText = htmlContent.Substring(startSearchIndex, matchIndex - startSearchIndex + matchLength + Math.Min(200, htmlContent.Length - matchIndex - matchLength));
|
|
|
|
// 상위 태그 패턴들 (div, p, h1-h6, span 등)
|
|
var tagPatterns = new[] { @"<(div|p|h[1-6]|span|section|article)[^>]*>", @"<[^>]+>" };
|
|
|
|
string resultContext = match.Value; // 기본값은 매칭된 부분만
|
|
|
|
foreach (var tagPattern in tagPatterns)
|
|
{
|
|
// 매칭된 부분 앞에서 가장 가까운 태그 시작 찾기
|
|
var tagMatches = Regex.Matches(searchText, tagPattern, RegexOptions.IgnoreCase);
|
|
|
|
for (int i = tagMatches.Count - 1; i >= 0; i--)
|
|
{
|
|
var tagMatch = tagMatches[i];
|
|
if (tagMatch.Index < (matchIndex - startSearchIndex))
|
|
{
|
|
// 태그 이름 추출
|
|
var tagName = Regex.Match(tagMatch.Value, @"<(\w+)", RegexOptions.IgnoreCase).Groups[1].Value;
|
|
|
|
// 닫는 태그 찾기
|
|
var closeTagPattern = $@"</{tagName}[^>]*>";
|
|
var closeMatch = Regex.Match(searchText, closeTagPattern, RegexOptions.IgnoreCase);
|
|
|
|
if (closeMatch.Success && closeMatch.Index > (matchIndex - startSearchIndex))
|
|
{
|
|
// 상위 태그와 그 내용을 포함하여 반환
|
|
var startIdx = tagMatch.Index;
|
|
var endIdx = closeMatch.Index + closeMatch.Length;
|
|
resultContext = searchText.Substring(startIdx, Math.Min(endIdx - startIdx, 500)); // 최대 500자
|
|
return resultContext;
|
|
}
|
|
}
|
|
}
|
|
}
|
|
|
|
// 상위 태그를 찾지 못한 경우, 매칭 전후 50자씩 포함
|
|
var contextStart = Math.Max(0, matchIndex - 50);
|
|
var contextEnd = Math.Min(htmlContent.Length, matchIndex + matchLength + 50);
|
|
resultContext = htmlContent.Substring(contextStart, contextEnd - contextStart);
|
|
|
|
return resultContext;
|
|
}
|
|
catch (Exception ex)
|
|
{
|
|
Console.WriteLine($"ExtractResultContext 오류: {ex.Message}");
|
|
return match.Value; // 오류 시 매칭된 부분만 반환
|
|
}
|
|
}
|
|
|
|
// 페이지 변경을 감지하는 메서드
|
|
public async Task WaitForPageChange(WebDriverWait wait)
|
|
{
|
|
try
|
|
{
|
|
await Task.Delay(500);
|
|
|
|
|
|
|
|
// 페이지 로딩 상태 확인
|
|
wait.Until(d =>
|
|
{
|
|
var readyState = ((IJavaScriptExecutor)d).ExecuteScript("return document.readyState");
|
|
return readyState.Equals("complete");
|
|
});
|
|
|
|
// 검색 결과 페이지가 로드될 때까지 대기
|
|
wait.Until(d =>
|
|
{
|
|
try
|
|
{
|
|
var pageSource = d.PageSource;
|
|
// 검색 결과나 관련 요소가 나타나면 로드 완료
|
|
return pageSource.Contains("검색결과") ||
|
|
pageSource.Contains("총") ||
|
|
pageSource.Contains("검색결과가 없습니다") ||
|
|
pageSource.Contains("건");
|
|
}
|
|
catch
|
|
{
|
|
return false;
|
|
}
|
|
});
|
|
|
|
}
|
|
catch (Exception ex)
|
|
{
|
|
// 모든 감지 방법이 실패하면 최소한의 대기 시간 적용
|
|
await Task.Delay(3000);
|
|
Console.WriteLine($"페이지 변경 감지 실패: {ex.Message}");
|
|
}
|
|
}
|
|
}
|
|
} |