‹ 연구 목록
건설 입찰 AI의 윤리적 활용을 위한 다차원 도덕 튜링 테스트 개발
Development of Multidimensional Moral Turing Test for Ethical Use of Construction Bidding AI
- 연구 기간
- 2022.08.01 – 2025.06.30
- 발주 기관
- 서울대학교
연구 개요 Overview
본 연구의 목적은 실제 데이터 기반 시뮬레이션과 인간-AI 입찰 게임 실험을 통해 AI 도입에 따른 건설 입찰 시장의 전략적 패턴 변화와 위험(디지털 담합 등)을 예측하는 것이다. 아울러 건설 입찰 시장에서 AI의 윤리적 활용을 위한 다차원 도덕 튜링 테스트를 개발하는 것을 목표로 한다.
The objective of this study is to predict the strategic pattern changes and risks (digital collusion, etc.) in the construction bidding market due to the introduction of AI, through simulation based on actual data and human-AI bidding game experiments. Additionally, the goal is to develop a multidimensional Moral Turing Test for ethical AI utilization in the construction bidding market.
연구 내용 Research Content
1단계: AI 도입에 따른 건설 입찰 시장의 전략적 패턴 변화 및 위험 예측
1단계에서는 AI 도입에 따른 건설 입찰 시장의 변화와 위험을 예측하는 것을 목표로 한다. 입찰 데이터와 전문가 자문을 수집하고, 강화학습 기반 AI 입찰 시스템을 개발하여 과거 입찰 데이터로 검증한다. AI가 지배적인 시장에서의 입찰 및 낙찰 패턴을 시뮬레이션으로 분석하고, 이를 인간 중심의 과거 입찰 데이터와 비교하여 디지털 담합과 독점 등 잠재적 문제를 파악한다. 또한 인간-AI 상호작용을 추상화한 반복 입찰 게임을 수행하여, 다양한 인적 요인을 고려한 반복 게임에 따른 입찰 패턴과 전략 변화를 분석한다.
2단계: 건설 입찰에서 AI의 윤리적 활용을 위한 다차원 도덕 튜링 테스트 개발
2단계에서는 건설 입찰 시장에서 AI의 윤리적 활용을 위한 다차원 도덕 튜링 테스트 개발에 중점을 둔다. (1) 입찰 AI의 내부 도덕 튜링 테스트 개발을 위해, 입찰 알고리즘 내 반경쟁적 행위와 디지털 카르텔 설계 가능성 등 AI의 윤리적 활용을 저해할 수 있는 요인을 식별·예측한다. 반복 실험을 통해 이러한 요인이 AI와 인간에 미치는 영향을 파악하고 비윤리적 행위를 식별한다. (2) 의도적인 내부 설계 없이도 둘 이상의 알고리즘 간 상호작용이 담합 등의 결과로 이어질 가능성에 영향을 미치는 요인을 반복 실험으로 예측하여, 입찰 AI의 외부 도덕 튜링 테스트를 개발한다. (3) 시장 및 제도 차원(입찰 담합 분석 시스템 등)의 AI 윤리적 활용을 위한 통제 전략을 탐색·벤치마킹하고, 반복 실험을 통해 통제 전략의 효과를 예측하여 입찰을 위한 시장·제도 차원의 도덕 튜링 테스트를 개발한다.
건설 입찰 시장에서 AI 참여자의 담합 행위
인공지능(AI)은 건설 입찰 과정에서 인간 의사결정자를 지원하며 점점 더 널리 활용되고 있다. 그러나 AI의 시장 참여로 발생할 수 있는 전술적 변화, 특히 입찰 가격에 대해서는 알려진 바가 거의 없다. 본 연구는 AI 입찰자가 내릴 수 있는 전략적 결정과 그것이 입찰 가격에 미치는 영향을 예측하는 것을 목표로 한다. Q-러닝 알고리즘으로 구축한 AI 입찰자들이 건설 입찰을 모사한 의사결정 환경에서 반복적으로 경쟁하는 실험을 수행하였다. 워싱턴주 교통국(WSDOT) 공공 건설사업의 입찰 공고 데이터를 AI 입찰자에게 제공하였으며, AI 입찰자는 이전 입찰 경험을 바탕으로 입찰 가격을 설정하였다. 반복적인 경쟁과 학습 결과, AI 입찰자들은 점차 서로 경쟁하기보다 협력하는 방향으로 학습하여 인간 입찰자보다 높은 입찰 가격을 유지하는 것으로 나타났다. 이는 AI 입찰자가 건설 입찰 과정의 지배적 참여자가 되는 상황에서 담합 행위가 발생할 가능성을 시사한다. 이러한 결과는 건설 입찰 시장에서 반경쟁적 행위를 방지하기 위해 AI 참여자를 모니터링하고 규제할 필요성을 보여준다.
1단계에서는 AI 도입에 따른 건설 입찰 시장의 변화와 위험을 예측하는 것을 목표로 한다. 입찰 데이터와 전문가 자문을 수집하고, 강화학습 기반 AI 입찰 시스템을 개발하여 과거 입찰 데이터로 검증한다. AI가 지배적인 시장에서의 입찰 및 낙찰 패턴을 시뮬레이션으로 분석하고, 이를 인간 중심의 과거 입찰 데이터와 비교하여 디지털 담합과 독점 등 잠재적 문제를 파악한다. 또한 인간-AI 상호작용을 추상화한 반복 입찰 게임을 수행하여, 다양한 인적 요인을 고려한 반복 게임에 따른 입찰 패턴과 전략 변화를 분석한다.
2단계: 건설 입찰에서 AI의 윤리적 활용을 위한 다차원 도덕 튜링 테스트 개발
2단계에서는 건설 입찰 시장에서 AI의 윤리적 활용을 위한 다차원 도덕 튜링 테스트 개발에 중점을 둔다. (1) 입찰 AI의 내부 도덕 튜링 테스트 개발을 위해, 입찰 알고리즘 내 반경쟁적 행위와 디지털 카르텔 설계 가능성 등 AI의 윤리적 활용을 저해할 수 있는 요인을 식별·예측한다. 반복 실험을 통해 이러한 요인이 AI와 인간에 미치는 영향을 파악하고 비윤리적 행위를 식별한다. (2) 의도적인 내부 설계 없이도 둘 이상의 알고리즘 간 상호작용이 담합 등의 결과로 이어질 가능성에 영향을 미치는 요인을 반복 실험으로 예측하여, 입찰 AI의 외부 도덕 튜링 테스트를 개발한다. (3) 시장 및 제도 차원(입찰 담합 분석 시스템 등)의 AI 윤리적 활용을 위한 통제 전략을 탐색·벤치마킹하고, 반복 실험을 통해 통제 전략의 효과를 예측하여 입찰을 위한 시장·제도 차원의 도덕 튜링 테스트를 개발한다.
건설 입찰 시장에서 AI 참여자의 담합 행위
인공지능(AI)은 건설 입찰 과정에서 인간 의사결정자를 지원하며 점점 더 널리 활용되고 있다. 그러나 AI의 시장 참여로 발생할 수 있는 전술적 변화, 특히 입찰 가격에 대해서는 알려진 바가 거의 없다. 본 연구는 AI 입찰자가 내릴 수 있는 전략적 결정과 그것이 입찰 가격에 미치는 영향을 예측하는 것을 목표로 한다. Q-러닝 알고리즘으로 구축한 AI 입찰자들이 건설 입찰을 모사한 의사결정 환경에서 반복적으로 경쟁하는 실험을 수행하였다. 워싱턴주 교통국(WSDOT) 공공 건설사업의 입찰 공고 데이터를 AI 입찰자에게 제공하였으며, AI 입찰자는 이전 입찰 경험을 바탕으로 입찰 가격을 설정하였다. 반복적인 경쟁과 학습 결과, AI 입찰자들은 점차 서로 경쟁하기보다 협력하는 방향으로 학습하여 인간 입찰자보다 높은 입찰 가격을 유지하는 것으로 나타났다. 이는 AI 입찰자가 건설 입찰 과정의 지배적 참여자가 되는 상황에서 담합 행위가 발생할 가능성을 시사한다. 이러한 결과는 건설 입찰 시장에서 반경쟁적 행위를 방지하기 위해 AI 참여자를 모니터링하고 규제할 필요성을 보여준다.
Step 1: Prediction of strategic pattern changes and risks in the construction bidding market due to AI adoption
Step 1 of this study aims to predict changes and risks in the construction bidding market due to the adoption of AI. The approach involves collecting bidding data and expert advice, developing a reinforcement learning-based AI bidding system, and validating it using historical bidding data. Simulations will be conducted to analyze bidding and winning patterns in an AI-dominant market and compare them with human-centered historical bidding data to identify potential issues such as digital collusion and monopolies. Additionally, a repeated bidding game with abstracted human-AI interaction will be conducted to analyze bidding pattern and strategy changes resulting from repeated games, considering various human factors.
Step 2: Development of multidimensional Moral Turing Test for ethical AI utilization in construction bidding
Step 2 focuses on developing a multidimensional Moral Turing Test for ethical AI utilization in the construction bidding market. (1) To develop an internal Moral Turing Test for bidding AI, the study will identify and predict factors that may hinder ethical AI utilization, such as anti-competitive behavior within bidding algorithms and the potential for designing digital cartels. These factors will be examined through repeated experiments to understand their impact on AI and humans and to identify any unethical behavior. (2) Factors that affect the potential for conflicts between two or more algorithms without intentional internal design, leading to collusion or other outcomes, will be predicted through repeated experiments to develop an external Moral Turing Test for bidding AI. (3) Control strategies for ethical AI utilization in the market and system dimensions (such as bid collusion analysis systems) will be explored and benchmarked to predict the effects of control strategies through repeated experiments, to develop a market and system-level Moral Turing Test for bidding.
Collusive Behavior of AI Participants in the Construction Bidding Market
Artificial intelligence (AI) is becoming more prevalent in the construction bidding process, assisting human decision-makers. However, little is known about the tactical shifts that may arise from AI participation in the market, particularly regarding bid pricing. This study aims to predict the strategic decisions AI bidders may make and their impact on bid pricing. Using the Q-learning algorithm, an experiment was conducted where AI bidders, which is built using Q-learning, competed repeatedly in a simulated decision-making environment for construction bidding. Bid notice data from public construction projects in the Washington Department of Transportation (WSDOT) was given to the AI bidders, who set bid prices based on prior bidding experiences. As a result of repeated competition and learning, it was found that the AI bidders gradually learn to cooperate rather than to compete with each other, sustaining higher bid prices compared to human bidders. The study suggests the possibility of collusive behavior by AI bidders in a scenario where they are the dominant participants in the construction bidding process. These findings highlight the need to monitor and regulate the AI participants to prevent anti-competitive behavior in the construction bidding market.
Step 1 of this study aims to predict changes and risks in the construction bidding market due to the adoption of AI. The approach involves collecting bidding data and expert advice, developing a reinforcement learning-based AI bidding system, and validating it using historical bidding data. Simulations will be conducted to analyze bidding and winning patterns in an AI-dominant market and compare them with human-centered historical bidding data to identify potential issues such as digital collusion and monopolies. Additionally, a repeated bidding game with abstracted human-AI interaction will be conducted to analyze bidding pattern and strategy changes resulting from repeated games, considering various human factors.
Step 2: Development of multidimensional Moral Turing Test for ethical AI utilization in construction bidding
Step 2 focuses on developing a multidimensional Moral Turing Test for ethical AI utilization in the construction bidding market. (1) To develop an internal Moral Turing Test for bidding AI, the study will identify and predict factors that may hinder ethical AI utilization, such as anti-competitive behavior within bidding algorithms and the potential for designing digital cartels. These factors will be examined through repeated experiments to understand their impact on AI and humans and to identify any unethical behavior. (2) Factors that affect the potential for conflicts between two or more algorithms without intentional internal design, leading to collusion or other outcomes, will be predicted through repeated experiments to develop an external Moral Turing Test for bidding AI. (3) Control strategies for ethical AI utilization in the market and system dimensions (such as bid collusion analysis systems) will be explored and benchmarked to predict the effects of control strategies through repeated experiments, to develop a market and system-level Moral Turing Test for bidding.
Collusive Behavior of AI Participants in the Construction Bidding Market
Artificial intelligence (AI) is becoming more prevalent in the construction bidding process, assisting human decision-makers. However, little is known about the tactical shifts that may arise from AI participation in the market, particularly regarding bid pricing. This study aims to predict the strategic decisions AI bidders may make and their impact on bid pricing. Using the Q-learning algorithm, an experiment was conducted where AI bidders, which is built using Q-learning, competed repeatedly in a simulated decision-making environment for construction bidding. Bid notice data from public construction projects in the Washington Department of Transportation (WSDOT) was given to the AI bidders, who set bid prices based on prior bidding experiences. As a result of repeated competition and learning, it was found that the AI bidders gradually learn to cooperate rather than to compete with each other, sustaining higher bid prices compared to human bidders. The study suggests the possibility of collusive behavior by AI bidders in a scenario where they are the dominant participants in the construction bidding process. These findings highlight the need to monitor and regulate the AI participants to prevent anti-competitive behavior in the construction bidding market.
