<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="/resources/xsl/jats-html.xsl"?>
<article article-type="research-article" dtd-version="1.2" xml:lang="ko" xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:xlink="http://www.w3.org/1999/xlink" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance">
  <front>
    <journal-meta>
      <journal-id journal-id-type="publisher-id">ksdh</journal-id>
      <journal-title-group>
        <journal-title>한국치위생학회지</journal-title>
        <trans-title-group>
          <trans-title xml:lang="en">Journal of Korean Society of Dental Hygiene</trans-title>
        </trans-title-group>
        <abbrev-journal-title>J Korean Soc Dent Hyg</abbrev-journal-title>
      </journal-title-group>
      <issn pub-type="ppub">2287-1705</issn>
      <issn pub-type="epub">2288-2294</issn>
      <publisher>
        <publisher-name>한국치위생학회</publisher-name>
        <publisher-name xml:lang="en">Korean Society of Dental Hygiene</publisher-name>
      </publisher>
    </journal-meta>
    <article-meta>
      <article-id pub-id-type="publisher-id">jksdh-2023-23-4-277</article-id>
      <article-id pub-id-type="doi">10.13065/jksdh.20230031</article-id>
      <article-categories>
        <subj-group xml:lang="en">
          <subject>Original Article</subject>
        </subj-group>
      </article-categories>
      <title-group>
        <article-title>전문직 간 교육 평가 도구 개발</article-title>
        <trans-title-group xml:lang="en">
          <trans-title>Development of an interprofessional education evaluation tool</trans-title>
        </trans-title-group>
      </title-group>
      <contrib-group>
        <contrib contrib-type="author">
          <contrib-id contrib-id-type="orcid">https://orcid.org/0009-0008-0294-4570</contrib-id>
          <name-alternatives>
            <name name-style="eastern">
              <surname>최</surname>
              <given-names>혜원</given-names>
            </name>
            <name name-style="western" xml:lang="en">
              <surname>Choi</surname>
              <given-names>Hye-Won</given-names>
            </name>
          </name-alternatives>
          <xref ref-type="aff" rid="aff1">1</xref>
        </contrib>
        <contrib contrib-type="author">
          <contrib-id contrib-id-type="orcid">https://orcid.org/0000-0002-4738-3032</contrib-id>
          <name-alternatives>
            <name name-style="eastern">
              <surname>임</surname>
              <given-names>희정</given-names>
            </name>
            <name name-style="western" xml:lang="en">
              <surname>Lim</surname>
              <given-names>Hee-Jung</given-names>
            </name>
          </name-alternatives>
          <xref ref-type="aff" rid="aff1">1</xref>
        </contrib>
        <contrib contrib-type="author">
          <contrib-id contrib-id-type="orcid">https://orcid.org/0000-0003-0826-6754</contrib-id>
          <name-alternatives>
            <name name-style="eastern">
              <surname>김</surname>
              <given-names>명철</given-names>
            </name>
            <name name-style="western" xml:lang="en">
              <surname>Kim</surname>
              <given-names>Myung-Chul</given-names>
            </name>
          </name-alternatives>
          <xref ref-type="aff" rid="aff2">2</xref>
        </contrib>
        <contrib contrib-type="author">
          <contrib-id contrib-id-type="orcid">https://orcid.org/0000-0003-4602-3323</contrib-id>
          <name-alternatives>
            <name name-style="eastern">
              <surname>임</surname>
              <given-names>도선</given-names>
            </name>
            <name name-style="western" xml:lang="en">
              <surname>Lim</surname>
              <given-names>Do-Seon</given-names>
            </name>
          </name-alternatives>
          <xref ref-type="aff" rid="aff1">1</xref>
        </contrib>
        <contrib contrib-type="author">
          <contrib-id contrib-id-type="orcid">https://orcid.org/0000-0001-7012-3434</contrib-id>
          <name-alternatives>
            <name name-style="eastern">
              <surname>황</surname>
              <given-names>영선</given-names>
            </name>
            <name name-style="western" xml:lang="en">
              <surname>Hwang</surname>
              <given-names>Young-Sun</given-names>
            </name>
          </name-alternatives>
          <xref ref-type="aff" rid="aff1">1</xref>
        </contrib>
        <contrib contrib-type="author" corresp="yes">
          <contrib-id contrib-id-type="orcid">https://orcid.org/0000-0002-8645-1587</contrib-id>
          <name-alternatives>
            <name name-style="eastern">
              <surname>정</surname>
              <given-names>임희</given-names>
            </name>
            <name name-style="western" xml:lang="en">
              <surname>Jung</surname>
              <given-names>Im-Hee</given-names>
            </name>
          </name-alternatives>
          <xref ref-type="aff" rid="aff1">1</xref>
        </contrib>
      </contrib-group>
      <aff-alternatives id="aff1">
        <aff>
          <label>1</label>을지대학교 보건복지대학원 치위생학과
        </aff>
        <aff xml:lang="en">
          <label>1</label>Department of Dental Hygiene, Graduate School of Health Science, Eulji University
        </aff>
      </aff-alternatives>
      <aff-alternatives id="aff2">
        <aff>
          <label>2</label>을지대학교 보건복지대학원 물리치료학과
        </aff>
        <aff xml:lang="en">
          <label>2</label>Department of Physical Therapy, Graduate School of Health Science, Eulji University
        </aff>
      </aff-alternatives>
      <author-notes>
        <corresp id="cor1" xml:lang="en"><bold>Corresponding Author: Im-Hee Jung,</bold> Department of Dental Hygiene, Eulji University, 553 Sanseong-daero, Sujeong-gu, Seongnam-si, Gyeonggi-do, 13135, Korea. Tel: +82-31-740-7247, fax: +82-31-740-7352, E-mail: <email>Jungih@eulji.ac.kr</email></corresp>
      </author-notes>
      <pub-date pub-type="ppub">
        <day>30</day>
        <month>08</month>
        <year>2023</year>
      </pub-date>
      <volume>23</volume>
      <issue>4</issue>
      <fpage>277</fpage>
      <lpage>286</lpage>
      <history>
        <date date-type="received">
          <day>14</day>
          <month>07</month>
          <year>2023</year>
        </date>
        <date date-type="rev-recd">
          <day>28</day>
          <month>07</month>
          <year>2023</year>
        </date>
        <date date-type="accepted">
          <day>06</day>
          <month>08</month>
          <year>2023</year>
        </date>
      </history>
      <permissions>
        <copyright-statement>Copyright &#x000a9; 2023, Korean Society of Dental Hygiene</copyright-statement>
        <copyright-year>2023</copyright-year>
        <license license-type="open-access" xlink:href="http://creativecommons.org/licenses/by-nc/4.0">
          <license-p>This is an Open Access article distributed under the terms of the Creative Commons Attribution Non-Commercial License(<uri>http://creativecommons.org/licenses/by-nc/4.0</uri>)</license-p>
        </license>
      </permissions>
      <abstract xml:lang="en">
        <sec>
          <title>Objectives:</title>
          <p>In this study, we aimed to develop a systematic tool that can evaluate the effects of interprofessional education (IPE) by applying four core competencies (values/ethics for interprofessional practice, roles/responsibilities, interprofessional communication, and teams and teamwork) and an educational evaluation model to evaluate the learning, behavior of learners, and results step by step.</p>
        </sec>
        <sec>
          <title>Methods:</title>
          <p>Previous studies on IPE evaluation tools were analyzed, and an evaluation tool (draft) was developed by modifying questions suitable for evaluation according to the Kirkpatrick model&#x2019;s stages and core competencies. The evaluation tool was completed by conducting a Delphi survey twice with 4-6 experts. To analyze the Delphi survey, the content validity index (CVI) was calculated, and the reliability coefficient (Cronbach&#x2019;s alpha coefficient) was used to measure reliability.</p>
        </sec>
        <sec>
          <title>Results:</title>
          <p>29 questions on pre-education, consisting of learning and behavior stages, and 54 questions on post-education, consisting of reaction, learning, behavior, and results stages, were developed. The CVI and Cronbach&#x2019;s alpha coefficient values were &#x3E;0.8 and &#x3E;0.6, respectively.</p>
        </sec>
        <sec>
          <title>Conclusions:</title>
          <p>The IPE evaluation tool developed in this study is expected to contribute to the evaluation of the educational level of IPE and the identification of points for improvement when applied to various educational settings.</p>
        </sec>
      </abstract>
      <kwd-group>
        <kwd>임상 역량</kwd>
        <kwd>협력적 행동</kwd>
        <kwd>학제간 커뮤니케이션</kwd>
        <kwd>전문직 간 교육</kwd>
      </kwd-group>
      <kwd-group xml:lang="en">
        <kwd>Clinical competence</kwd>
        <kwd>Cooperative behavior</kwd>
        <kwd>Interdisciplinary communication</kwd>
        <kwd>Interprofessional education</kwd>
      </kwd-group>
    </article-meta>
  </front>
  <body>
    <sec id="s1" sec-type="intro">
      <title>서론</title>
      <p>전문직 간 교육(IPE, Interprofessional education)은 둘 또는 그 이상의 전문가들이 서로 함께 배우고(Learn with), 상대방으로부터 배우고(Learn from), 서로에 대해 배움(Learn about)으로써 치료와 케어에 있어 최상의 협력환경을 구축하도록 돕는 중요한 교육 방식이다<xref ref-type="bibr" rid="r001">[1]</xref>. IPE는 특히 보건의료 분야에서 부각되고 있으며, 보건의료인들은 IPE를 통해 다분야 팀의 구성원으로서 서로의 업무를 이해하고 협력해 더 효율적으로 환자들을 보살필 수 있는 역량을 키울 수 있다<xref ref-type="bibr" rid="r001">[1]</xref>. 학부과정의 일부로 IPE를 실시했을 경우 졸업 후 임상에서 더 효율적인 협력을 가능케 한다는 사실이 연구에서 보고되면서<xref ref-type="bibr" rid="r002">[2]</xref> 세계보건기구(WHO, World Health Organization)에서도 보건의료 관련 학과 학생들이 협동교육을 통하여 협력 관계를 가질 수 있도록 IPE를 실시하는 것을 권장하였다<xref ref-type="bibr" rid="r003">[3]</xref>. 또한 임상에 종사하고 있는 보건 전문직들에게 교육을 실시한 결과, 실제 서로의 역할을 잘 이해하였고 팀워크, 의사소통과 협업 역량을 극대화시킬 수 있었다<xref ref-type="bibr" rid="r004">[4]</xref>. 특히, 심혈관 질환, 당뇨, 암 등의 전신질환과 치주질환 간의 연관성이 밝혀짐에 따라<xref ref-type="bibr" rid="r005">[5]</xref> 의료 전문직 간의 통합적인 케어를 위해 치위생 분야에서도 IPE의 중요성이 더욱 부각되고 있다.</p>
      <p>실제로 해외에서는 2001년 캐나다 University of British Columbia의 전문가 간 보건교육에 치위생 분야가 투입되었고<xref ref-type="bibr" rid="r006">[6]</xref>, 최근 네덜란드 Radboud university medical center에서는 치과의사와 치과위생사를 대상으로 임상전문가 간 교육 프로그램(Clinical interprofessional education program, 2020)이 진행되기도 했다<xref ref-type="bibr" rid="r007">[7]</xref>. 한편, 국내에서 시행 중인 IPE 현황에 대한 최근 논문<xref ref-type="bibr" rid="r008">[8]</xref>에 따르면, 2021년 당시 국내 6개 대학에서 IPE를 시행되고 있었고, 일개 대학에서는 치위생 영역을 포함한 5개 보건의료분야를 대상으로 관련 교육을 시행 중이라고 보고된 바가 있다. 더불어, 아직 문헌으로 보고된 바는 없지만 국내 일부 학회 및 치위생(학)과들에서 다직종 혹은 전문가 간 교육에 대해 논의 및 운영 중이다.</p>
      <p>IPE의 원활한 시행을 위해 2009년에 미국의 6개 보건의료 관련 교육 협회에 의해 설립된 &#x2018;Interprofessional Education Collaborative(IPEC)&#x2019;은 IPE의 핵심 역량 4개를 정의하였고 이를 교육 과정에 적용할 것을 제안하였다. IPEC에서 정의한 이들 핵심 역량 4가지는 &#x2018;직종 간 임상의 가치와 윤리&#x2019;, &#x2018;역할과 책임감&#x2019;, &#x2018;전문직간 의사소통&#x2019;, &#x2018;팀 및 팀워크&#x2019;로 구성되어 있으며, IPE의 교육 목표로 현재까지 널리 받아들여지고 있다<xref ref-type="bibr" rid="r009">[9]</xref>. 핵심 역량의 구체적인 정의는 다음과 같다. &#x2018;직종 간 임상의 가치와 윤리&#x2019;는 다른 직종의 개인과 협력하여 상호 존중하고 공유된 가치의 분위기를 유지하는 것을 의미한다. &#x2018;역할과 책임감'은 자신의 역할과 다른 직업의 지식을 활용하여 환자의 건강관리 욕구를 적절하게 평가하고 해결하며 인구의 건강을 증진시킬 수 있는 역량이다. 이는, 효율적인 팀을 이루기 위해 서로의 전문직 역할에 대해 이해하고, 서로에게 기대할 수 있는 역할이 어떤 내용인지를 분명히 이해하는 것을 의미한다. &#x2018;전문직 간 의사소통 기술&#x2019;은 건강 증진 및 유지, 질병 예방 및 치료에 대한 팀 접근 방식을 지지하면서 책임감 있고 즉각적인 방식으로 환자, 가족, 지역 사회 및 전문가와 소통 하는 것을 의미한다. &#x2018;팀 및 팀워크&#x2019;는 관계 형성 가치와 팀 역학의 원칙을 적용하여 안전하고 시기적절하고 효율적이며 평등한 환자 중심 진료 및 인구 건강 프로그램 및 정책을 계획, 전달 및 평가하기 위해 서로 다른 팀내 역할을 효과적으로 수행하는 것을 의미한다<xref ref-type="bibr" rid="r009">[9]</xref>.</p>
      <p>한편, IPE가 교육과정의 일부로 자리 잡으면서 의료 전문직 전반에 걸쳐 전문직 간 역량을 평가하기 위한 도구의 필요성이 제기되었다<xref ref-type="bibr" rid="r010">[10]</xref>. 이에 따라, Readiness for Interprofessional Learning Scale (RIPLS) <xref ref-type="bibr" rid="r011">[11]</xref>, Self-efficacy for Interprofessional Experimental Learning Scale (SEIEL)<xref ref-type="bibr" rid="r012">[12]</xref>, Interprofessional Attitudes Scale (IPAS) <xref ref-type="bibr" rid="r013">[13]</xref> 등이 개발되었다. 하지만 현재까지 개발된 평가 도구들은 &#x2018;타 직종에 대한 편견&#x2019;, &#x2018;팀워크 역할과 책임감&#x2019;과 같이 간접적인 평가 척도를 사용하였고, 학생에게 일어나는 직접적인 교육 효과가 아닌 태도와 인식에 대해서만 조사되었다<xref ref-type="bibr" rid="r013">[13</xref>,<xref ref-type="bibr" rid="r014">14]</xref>. 따라서, IPE 핵심 역량을 직접적으로 평가할 수 있으며, 태도, 인식뿐만 아니라 행동 변화와 결과 등 교육 과정 전반을 평가할 수 있는 체계적인 도구가 필요하며, 이를 해결하기 위한 모델로는 커크 패트릭 평가 모델이 제시될 수 있다<xref ref-type="bibr" rid="r015">[15]</xref>.</p>
      <p>교육 프로그램의 효과를 평가하는데 가장 널리 사용되는 대표적인 모델 중 하나인 커크 패트릭 평가 모델은 각 교육 프로그램을 반응(Reaction), 학습 (Learning), 행동(Behavior), 결과(Results)의 총 4개의 수준으로 구분되며, 이들 수준은 단계적으로 평가하도록 권고된다<xref ref-type="bibr" rid="r015">[15]</xref>. 반응 단계는 전반적인 만족도를 평가하며, 학습 단계는 새롭게 습득한 태도, 지식 및 기술의 변화를 평가한다. 또한, 행동 단계는 습득한 지식, 기술, 태도 등을 실제 현장에서 적용할 수 있는지를 평가하며, 결과 단계는 교육 프로그램의 최종 결과가 무엇인지, 얼마나 조직성과에 긍정적으로 기여하였는지를 평가한다. 이와 같이, 커크 패트릭 모델은 지식과 기술의 향상 정도뿐만 아니라 전문가 개인 행동의 변화와 성과 등 전반적인 교육 내용의 평가가 가능케 하기 때문에 전문가 교육 평가 도구의 틀로 많이 적용된다<xref ref-type="bibr" rid="r016">[16]</xref>. 더불어, 교육의 효과를 개인에서 집단까지 확장하여 단계적으로 평가할 수도 있기 때문에 실용적인 결과의 도출이 필요한 교육 프로그램을 평가하는데 알맞은 모델로 알려져 있다<xref ref-type="bibr" rid="r015">[15]</xref>.</p>
      <p>따라서, 본 연구에서는 IPE의 효과를 평가하여 교육의 질 향상에 기여할 수 있도록 IPE 핵심 역량과 직접적으로 관련되며, 커크 패트릭 평가모델에 기반하여 단계별로 구성된 체계적인 평가 도구를 개발하고자 하였다.</p>
    </sec>
    <sec id="s2" sec-type="methods">
      <title>연구방법</title>
      <p>본 연구는 을지대학교 기관생명윤리위원회(IRB, Institutional review board)로부터 윤리적 승인(EU22-61)을 받아, 2022년 3월부터 2022년 8월까지 진행되었다. 본 연구의 과정은 &#x3C;<xref ref-type="fig" rid="f001">Fig. 1</xref>&#x3E;과 같으며, 먼저 IPE 평가 도구 개발을 위해 분석한 문헌, 평가 도구 및 인터뷰를 기반으로 평가 도구(초안)의 틀과 문항을 구성 및 수정하였다. 그 후 2번에 걸쳐 델파이 조사를 실시하였고, 조사 결과를 기반으로 평가 도구의 재수정을 거쳐 타당도와 신뢰도가 검증된 최종 평가 도구를 개발하였다.</p>
      <fig id="f001" position="float">
        <label>Fig. 1.</label>
        <caption>
          <title>Experiment procedure</title>
        </caption>
        <graphic xlink:href="../ingestImageView?artiId=ART002988810&amp;imageName=jksdh-2023-23-4-277-f001.jpg" position="float"/>
      </fig>
      <sec id="s2a">
        <title>1. 자료수집</title>
        <p>자료수집을 위해 IPE 관련 서적<xref ref-type="bibr" rid="r017">[17]</xref>, Park 등<xref ref-type="bibr" rid="r018">[18]</xref>의 문헌을 토대로 평가 도구를 연구한 국내외 문헌, 실제 교육 프로그램의 효과를 측정한 국내 문헌<xref ref-type="bibr" rid="r019">[19</xref>,<xref ref-type="bibr" rid="r020">20]</xref>을 수집하였다. 검색에 사용된 데이터베이스는 PubMed, Research Information Sharing Service (RISS), Dbpia, Korean-studies Information Service System (KISS)이다. 49개의 문헌이 검색되었으며 IPE 평가를 위해 자가 설문지를 사용한 문헌과 평가 도구를 알 수 없는 문헌을 제외하여 32개를 분석하고 문항을 수집하였다. 또한 현재 IPE 평가 도구로 사용되고 있는 RIPLS, SEIEL, IPAS 등 약 15개의 평가 도구를 분석 및 번역하였다. 더불어 팀워크와 의사소통 능력 등을 평가하기 위한 목적으로 개발된 도구이지만 IPE 평가도구로도 일부 쓰이고 있는 Teamwork Assessment Scale, Communication Skills Attitudes Scale 등의 도구도 포함되었다. 추가로, 구체적인 수업내용과 수업을 통해 본인이 느꼈던 경험과 생각을 조사하기 위해 비대면 개별 인터뷰를 실시하였다. 참여자는 국내 일개 대학에서 IPE 교육과정(관련 IPE 교과목 4개 수강 완료)에 참여했던 학생들 중, 본 인터뷰 참여에 동의한 학생 2명을 대상으로 하였다. 비대면으로 연구의 목적을 설명하고 자발적 동의를 받은 후 인터뷰하였다. 인터뷰 질문은 이론과 실습 분야로 나누어 &#x3C;<xref ref-type="table" rid="t001">Table 1</xref>&#x3E;과 같이 14개의 질문으로 구성하였다. 인터뷰를 통해 얻은 학생들의 의견은 초안 개발에 반영하였으며, 반영된 내용은 팀 활동 시 갈등, 의견 차이보다는 협동, 화합이 훨씬 잘 이루어졌고, 이를 통해 존중, 배려, 의사소통 기술 등의 배움이 가능했다는 점이었다.</p><table-wrap id="t001" position="float"> <label>Table 1.</label> <caption><title> Interview questions for development of evaluation tool</title></caption> <table rules="groups" frame="hsides"> <thead> <tr valign="middle"> <th align="left">Category</th> <th align="left"></th> <th align="left">Interview questions</th> </tr> </thead> <tbody> <tr valign="top"> <td align="left">Theoretical</td> <td align="left">1</td> <td align="left">What did you focus on learning about &#x2018;Understanding Humanity&#x2019;?</td> </tr> <tr valign="top"> <td align="left"></td> <td align="left">2</td> <td align="left">Was IPE helpful in understanding your major and other major roles and tasks?</td> </tr> <tr valign="top"> <td align="left"></td> <td align="left">3</td> <td align="left">What did you focus on learning when you were educated on &#x2018;Basic Concepts and Methods of Communication&#x2019;?</td> </tr> <tr valign="top"> <td align="left"></td> <td align="left">4</td> <td align="left">Did you learn ethical things such as respect for each other's job, courtesy, and consideration through the class?</td> </tr> <tr valign="top"> <td align="left">Practice</td> <td align="left">1</td> <td align="left">Were there any difficulties in assessing the health problems of the elderly and discussing intervention plans as a team?</td> </tr> <tr valign="top"> <td align="left"></td> <td align="left">2</td> <td align="left">Were you satisfied with the mediation plan that was created after discussing with other majors?</td> </tr> <tr valign="top"> <td align="left"></td> <td align="left">3</td> <td align="left">Did you learn communication skills and cooperation with other departments or other people through the class?</td> </tr> <tr valign="top"> <td align="left"></td> <td align="left">4</td> <td align="left">Did the class help you think positively about other occupations or majors?</td> </tr> <tr valign="top"> <td align="left"></td> <td align="left">5</td> <td align="left">Do you believe in providing personalized interventions to the elderly?</td> </tr> <tr valign="top"> <td align="left"></td> <td align="left">6</td> <td align="left">Do you think you have applied the theory you have learned so far to this class?</td> </tr> <tr valign="top"> <td align="left"></td> <td align="left">7</td> <td align="left">If the subject has experience in practice, did you feel a difference depending on whether or not there was interprofessional education?</td> </tr> <tr valign="top"> <td align="left"></td> <td align="left">8</td> <td align="left">Were there any difficulties when applying the intervention to the elderly?</td> </tr> <tr valign="top"> <td align="left"></td> <td align="left">9</td> <td align="left">How did you resolve conflicts or differences of opinion during class as a team?</td> </tr> <tr valign="top"> <td align="left"></td> <td align="left">10</td> <td align="left">How was the atmosphere during the team class?</td> </tr> </tbody> </table> </table-wrap>
      </sec>
      <sec id="s2b">
        <title>2. 평가 도구(초안) 개발</title>
        <p>자료 수집 과정에서 분석한 IPE 평가 도구를 바탕으로 본 연구에 맞는 평가 도구(초안)을 개발하였다. 세부적으로, 전문가 교육 평가 모델 중 커크 패트릭 모델<xref ref-type="bibr" rid="r016">[16]</xref>을 기반으로 도구를 단계(반응, 학습, 행동, 결과)로 구분하였으며, IPE 핵심 역량을 평가하기 위해 학습과 행동 단계를 4가지 역량(상호 간 행동윤리, 역할 및 책임감, 전문직 간 의사소통 기술, 팀워크)으로 구성하였다. 추가로 인터뷰 내용을 반영, 일부 단어를 수정하여 총 55개의 초안 문항을 개발하였다.</p>
      </sec>
      <sec id="s2c">
        <title>3. 델파이 조사</title>
        <p>본 연구에서는 내용 타당도 검증을 위한 전문가 집단의 수가 3명에서 10명이 적당하다는 Lynn<xref ref-type="bibr" rid="r021">[21]</xref>의 기준을 적용하여 IPE를 진행한 경험이 있거나 한국 다직종 연계 실천 교육 네트워크의 위원인 전문가 총 4-6명을 선정하였다&#x3C;<xref ref-type="table" rid="t002">Table 2</xref>&#x3E;. 2022년 5월부터 2022년 8월까지 E-mail을 통해 평가 도구 초안과 수정본에 대해 두 번의 델파이 조사를 진행하였다. 전문가 4명을 대상으로 평가 도구의 기본적인 구성과 문항에 대해 1차 델파이 조사를 실시하였다. 도구의 기본적인 틀 및 구성, 문항 내용, 문항 이해 용이도, 문항 길이, 문항 수(전체 소요시간)에 대하여 &#x2018;매우 적절하지 않음&#x2019; 1점, &#x2018;적절하지 않음&#x2019; 2점, &#x2018;적절함&#x2019; 3점, &#x2018;매우 적절함&#x2019; 4점으로 구성하여 평가하도록 하였다. 각 문항별로는 &#x2018;수정&#x2019;, &#x2018;제거&#x2019;를 기록하는 리스트를 추가하였고, 한 영역이 끝날 때 마다 제시한 문항들이 각각의 IPE 핵심 역량을 평가하기에 적합한지에 대해 &#x2018;그렇다&#x2019;와 &#x2018;아니다&#x2019;로 질문한 뒤 &#x2018;아니다&#x2019;를 선택한 경우, 이유를 적을 수 있는 칸을 추가하였다. 추가적으로 상기 문항 외에 추가되어야 할 문항이 있는지에 관해 자유응답형으로 질문하였다. 2차 델파이 조사는 전문가 6명을 대상으로 실시하였고, 1차와 동일한 방식으로 진행하였다. 추가로, 도구에 대한 전문가의 기타 의견은 개방형 의견란을 통해 자유롭게 기록할 수 있도록 구성하였다.</p><table-wrap id="t002" position="float"> <label>Table 2.</label> <caption><title> Expert participants in Delphi survey</title></caption> <table rules="groups" frame="hsides"> <thead> <tr valign="top"> <th align="left">NO</th> <th align="left">Position</th> <th align="left">Major</th> <th align="left">Career related IPE</th> </tr> </thead> <tbody> <tr valign="top"> <td align="left">1</td> <td align="left">Dean, Industry-University Cooperation Foundation</td> <td align="left">Hospital information management</td> <td align="left">Director of the center in Korean Interprofessional Practice &amp;amp; Education Network</td> </tr> <tr valign="top"> <td align="left">2</td> <td align="left">Professor</td> <td align="left">Physical therapy</td> <td align="left">Commissioner in Korean Interprofessional Practice &amp;amp; Education Network</td> </tr> <tr valign="top"> <td align="left">3</td> <td align="left">Professor</td> <td align="left">Physical therapy</td> <td align="left">Commissioner in Korean Interprofessional Practice &amp;amp; Education Network</td> </tr> <tr valign="top"> <td align="left">4</td> <td align="left">Professor</td> <td align="left">Occupational therapy</td> <td align="left">Director of Health Integrated Education Center (Universities in Gumi)</td> </tr> <tr valign="top"> <td align="left">5</td> <td align="left">Professor</td> <td align="left">Nursing</td> <td align="left">Professor in charge of IPE subjects (Universities in Daegu)</td> </tr> <tr valign="top"> <td align="left">6</td> <td align="left">Professor</td> <td align="left">Nursing</td> <td align="left">Professor in charge of IPE subjects (Universities in Gyeonggido)</td> </tr> <tr valign="top"> <td align="left">7</td> <td align="left">Professor</td> <td align="left">Speech therapy</td> <td align="left">Director of Health Integrated Education Center (Universities in Daegu)</td> </tr> </tbody> </table> </table-wrap>
      </sec>
      <sec id="s2d">
        <title>4. 내용 타당도 분석 및 신뢰도 검증</title>
        <p>평가 도구의 내용 타당도 검증을 위해 내용 타당도 지수(CVI, Content validity index for items)를 사용하였으며, 개별 문항에 대해 4점 척도(4점= 매우 타당하다, 1점= 매우 타당하지 않다)로 측정하였다. CVI는 4점 척도 중 3점 &#x2018;타당하다&#x2019;, 혹은 4점 &#x2018;매우 타당하다&#x2019;에 표시한 응답 수를 전체 응답수로 나눈 비율로 산출하였다. CVI는 전문가 집단의 인원수에 따라 기준점이 다른데, Lynn<xref ref-type="bibr" rid="r021">[21]</xref>의 연구에 따르면 전문가가 3-5명이면 1.00이어야 하고, 6-10명이면 0.78이상이어야 문항의 내용 타당도가 만족된 것으로 보았다.</p>
        <p>한편, 각각의 단계와 역량에 대해 Cronbach&#x2019;s &#x3B1;lpha coefficient를 사용하여 신뢰도를 측정하였다. Knapp<xref ref-type="bibr" rid="r022">[22]</xref>의 연구에 따르면 Cronbach&#x2019;s &#x3B1;lpha 값이 1에 가까울수록 신뢰도가 높은 것을 의미하며 일반적으로 0.6-0.7이상이면 수용 가능하다는 기준에 근거하여 신뢰 여부를 판단하였다.</p>
      </sec>
    </sec>
    <sec id="s3" sec-type="results">
      <title>연구결과</title>
      <sec id="s3a">
        <title>1. 최종 평가 도구</title>
        <p>두 번의 델파이 조사 및 내용 타당도 분석 결과를 바탕으로 사전 29문항, 사후 54문항으로 이루어진 최종 평가 도구를 개발하였으며, 최종 평가 도구의 구성 및 항목은 &#x3C;<xref ref-type="table" rid="t003">Table 3</xref>&#x3E; 및 &#x3C;<xref ref-type="table" rid="t004">Table 4</xref>&#x3E;와 같다. 최종 평가 도구의 구체적인 내용은 다음과 같다. 첫 번째, 교육의 전후 비교를 위해 평가 시점을 사전과 사후로 구분하였다. 두 번째, 커크 패트릭 모델을 적용하여 반응, 학습, 행동, 결과 총 4단계의 교육 평가 단계로 구분하였다. 이 때, 사전 평가에서는 반응과 결과 단계를 평가할 수 없기에 사후 평가에만 삽입하였다. 세 번째, 각 단계별 평가 항목으로 IPEC에서 제시한 4가지 핵심 역량(상호 간 존중, 역할 및 책임감, 의사소통 기술, 팀 협력)을 적용하였으며, 각 문항은 5점 Likert 척도(5점= 매우 그렇다, 0점=매우 그렇지 않다)를 사용하였다. 네 번째, 교육 결과 평가 대상으로 교수자, 동료학생 등 외부 평가자를 추가하여 객관적인 평가가 가능하도록 하였다. 개발된 도구는 기존의 IPE 평가 도구를 한국 실정에 맞는 표현들로 다듬고 한계점들을 보완하였으며, 이를 전문가에게 검증받았다.</p><table-wrap id="t003" position="float"> <label>Table 3.</label> <caption><title> Final version of evaluation tool; before interprofessional education (IPE)</title></caption> <table rules="groups" frame="hsides"> <thead> <tr valign="middle"> <th align="left">Stage</th> <th align="center">Sub</th> <th align="center">Capabilities (Q)</th> <th align="left">Questions</th> </tr> </thead> <tbody> <tr valign="top"> <td align="left">LN</td> <td align="center">L</td> <td align="center">A (3)</td> <td align="left">Can IPE foster mutual respect for different occupations?</td> </tr> <tr valign="top"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Can IPE help understand the needs of different occupations?</td> </tr> <tr valign="top"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Can IPE eliminate prejudice against other occupations?</td> </tr> <tr valign="top"> <td align="left"></td> <td align="center"></td> <td align="center">B (4)</td> <td align="left">Do you know your roles and responsibilities in multi-professional problem situations?</td> </tr> <tr valign="top"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">In multi-occupational situations, are you aware of other team members&#x2019; roles and responsibilities?</td> </tr> <tr valign="top"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Can IPE enhance understanding of different occupations? </td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Can you prioritize patient when addressing problems involving multiple occupations?</td> </tr> <tr valign="top"> <td align="left"></td> <td align="center"></td> <td align="center">C (4)</td> <td align="left">Are interprofessional communication skills crucial in multi-occupational situations? </td> </tr> <tr valign="top"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Can IPE enhance communication skills with team members from different majors and patients? </td> </tr> <tr valign="top"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Can IPE teach sharing and accepting each other&#x2019;s opinions? </td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Are communication skills vital for addressing differences among team members from different majors?</td> </tr> <tr valign="top"> <td align="left"></td> <td align="center"></td> <td align="center">D (5)</td> <td align="left">Does having common goals enhance teamwork?</td> </tr> <tr valign="top"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Does team collaboration enhance care quality?</td> </tr> <tr valign="top"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Should all team members contribute to fostering a team atmosphere?</td> </tr> <tr valign="top"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Is trust among team members important in multi-occupational situations?</td> </tr> <tr valign="top"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Can you develop a sense of cooperation through inter-occupational assistance?</td> </tr> <tr valign="top"> <td align="left">BE</td> <td align="center">L</td> <td align="center">A (2)</td> <td align="left">Can you consider differences among each otherin multi-occupational situations?</td> </tr> <tr valign="top"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Can I collaborate with teammates in multi-occupational situations?</td> </tr> <tr valign="top"> <td align="left"></td> <td align="center"></td> <td align="center">B (3)</td> <td align="left">Are you confident in fulfilling your role effectively in multi-occupational situations?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Are you confident in your role in multi-occupational situations?</td> </tr> <tr valign="top"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Are you confident that your role will contribute positively to the team in multi-occupational situations?</td> </tr> <tr valign="top"> <td align="left"></td> <td align="center"></td> <td align="center">C (5)</td> <td align="left">Are you confident in non-judgmental opinion exchange among team members in multi-occupational situations?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Are you open to listening to diverse feedback and differing opinions from team members?</td> </tr> <tr valign="top"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Can you effectively communicate using clear language for different individuals (team members, patients, etc.)?</td> </tr> <tr valign="top"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Can you understand verbal and non-verbal cues during communication with others (team members, patients, etc.)?</td> </tr> <tr valign="top"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Are you willing to discuss disagreements and find compromises with team members?</td> </tr> <tr valign="top"> <td align="left"></td> <td align="center"></td> <td align="center">D (3)</td> <td align="left">Can you compromise and collaborate with team members to solve problems?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Can you provide encouragement and recognition to team members during problem-solving?</td> </tr> <tr valign="top"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Are you confident in working as a team with team members to solve problems?</td> </tr> </tbody> </table> <table-wrap-foot> <p>LN, BE, RA and RS mean each stage of IPE; learning, behavior, reaction and result, respectively.</p> <p>L and P mean learner and professor among subject, respectively; and Sub is abbreviation of subject.</p> <p>A, B, C and D mean the four capabilities of IPE; each means &#x2018;Values/ethics for interprofessional practice&#x2019;, &#x2018;Roles/responsibillities&#x2019;,</p> <p>&#x2018;Interprofessional communication&#x2019; and &#x2018;Teams and teamwork&#x2019;, respectively; and Q means the total number of questions.</p> </table-wrap-foot> </table-wrap><table-wrap id="t004" position="float"> <label>Table 4.</label> <caption><title>Final version of evaluation tool; after interprofessional education (IPE)</title></caption> <table rules="groups" frame="hsides"> <thead> <tr valign="middle"> <th align="left">Stage</th> <th align="center">Sub</th> <th align="center">Capabilities(Q)</th> <th align="left">Questions</th> </tr> </thead> <tbody> <tr valign="middle"> <td align="left">RA</td> <td align="center">L</td> <td align="center">S (6)</td> <td align="left">Was the difficulty of the IPE class appropriate?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did you find the IPE-based curriculum more engaging than the traditional curriculum?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did you have sufficient opportunities to learn and collaborate with team members during the IPE curriculum?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did the IPE curriculum enhance your adaptability in the field?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did the IPE curriculum contribute to your overall personal growth?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Do you believe the IPE curriculum will benefit your desired career path?</td> </tr> <tr valign="middle"> <td align="left">LN</td> <td align="center">L</td> <td align="center">A (3)</td> <td align="left">Does IPE promote mutual respect for different occupations?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did you learn about the needs of each occupation through IPE?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did IPE help you overcome prejudice against other occupations?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center">B (3)</td> <td align="left">Did IPE help you understand your roles and responsibilities in multi-occupational situations?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did IPE enhance understanding of team members&#x2019; roles and responsibilities in multi-occupational situations?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did IPE enhance your understanding of other professions?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center">C (4)</td> <td align="left">Did IPE teach you the importance of interprofessional communication in multi-occupational situations?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did IPE help you develop communication skills with team members and the public from different majors?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did IPE teach you how to share and accept opinions with your team members?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did IPE communication skills help resolve differences among team members from different majors?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center">D (3)</td> <td align="left">Did IPE emphasize the importance of having common goals?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did IPE highlight the significance of collaboration among team members for improving healthcare quality?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Were all team members able to contribute to creating a team atmosphere through IPE?</td> </tr> <tr valign="middle"> <td align="left">BE</td> <td align="center">L</td> <td align="center">A (2)</td> <td align="left">Did you understand and consider occupational differences to solve problems?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did you collaborate with teammates from different majors to address cross-professional issues?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center">B (4)</td> <td align="left">Did you perform your role effectively in a multi-occupational situation?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Have you taken responsibility for your field of study in a multi-occupational context?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did your role contribute positively to the team's outcomes in a multi-occupational situation?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did you prioritize the needs of the individuals involved while solving problems related to different occupations?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center">C (5)</td> <td align="left">Did team members freely exchange opinions without criticism in multi-occupational situations?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did you actively listen to team members' comments, including concerns and differing opinions?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did you use understandable language when communicating with others (team members, patients, etc.)?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did you effectively interpret verbal and nonverbal cues from others, such as team members and patients?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">In case of disagreements, did you engage in discussions and seek compromises with your team members?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center">D (4)</td> <td align="left">Did your team develop a sense of cooperation by compromising and making concessions to each other?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did your team rely on trust to perform and resolve problems?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did your team exchange encouragement and recognition while solving problems?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did your team collaborate effectively to solve the given problems?</td> </tr> <tr valign="middle"> <td align="left">RS</td> <td align="center">P</td> <td align="center">A (1)</td> <td align="left">Did team members understand and consider each other's differences while solving problems?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center">B (3)</td> <td align="left">Did team members fulfill their roles effectively in a multi-occupational situation?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did team members demonstrate responsibility in their respective fields in multi-occupational situations?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did each team member's role contribute positively to team outcomes in multi-occupational situations?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center">C (4)</td> <td align="left">Did team members support diverse opinions in multi-occupational situations?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did team members actively listen to each other's opinions?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did team members use clear language when communicating with team members and patients?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did team members utilize non-verbal communication with patients and team members?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center">D (3)</td> <td align="left">Did team members seek compromises in case of differing opinions?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did team members collaborate to solve problems?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did team cooperation run smoothly?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center">L</td> <td align="center">A (1)</td> <td align="left">Did team members consider and respect each other's differences while solving problems?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center">B (3)</td> <td align="left">Did team members fulfill their roles effectively in a multi-occupational situation?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did team members demonstrate responsibility in their respective fields in multi-occupational situations?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did each team member's role contribute positively to team outcomes in multi-occupational situations?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center">C (3)</td> <td align="left">Did team members support diverse opinions in multi-occupational situations?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did team members actively listen to each other's opinions?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did team members use clear language when communicating with team members and patients?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center">D (2)</td> <td align="left">When there is a difference of opinion, did team members make an effort to find a compromise?</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="center"></td> <td align="left">Did each member of the team work together to solve a given problem?</td> </tr> </tbody> </table> <table-wrap-foot> <p>LN, BE, RA and RS mean each stage of IPE; learning, behavior, reaction and result, respectively.</p> <p>L and P mean learner and professor among subject, respectively; and Sub is abbreviation of subject.</p> <p>A, B, C and D mean the four capabilities of IPE; each means &#x2018;Values/ethics for interprofessional practice&#x2019;, &#x2018;Roles/responsibillities&#x2019;, &#x2018;Interprofessional communication&#x2019; and &#x2018;Teams and teamwork&#x2019;, respectively; S means satisfaction and Q means the total number of questions.</p> </table-wrap-foot> </table-wrap>
      </sec>
      <sec id="s3b">
        <title>2. 내용 타당도 분석 및 신뢰도 검증 결과</title>
        <p>개발된 최종 평가 도구는 각 단계와 역량별로 내용 타당도와 신뢰도를 확인했고, 검증을 위해 CVI와 Cronbach&#x2019;s &#x3B1;lpha coefficient를 사용하였다&#x3C;<xref ref-type="table" rid="t005">Table 5</xref>&#x3E;. 본 연구에서 개발된 모든 문항의 내용 타당도 결과는 CVI 0.8 이상이었다. 한편, 신뢰 계수는 반응 단계 0.840, 학습 단계에 대한 사전과 사후 각각 0.882, 0.930, 행동 단계에 대한 사전과 사후 각각 0.915, 0.946로 나타났다. 결과 단계에서 교수자 대상, 팀원 대상 문항의 신뢰 계수는 각각 0.937, 0.962으로 나타났다. 연구 방법에서 제시한 기준에 따라 모든 문항들이 바람직한 타당도와 신뢰도를 갖는 것으로 확인되었다.</p><table-wrap id="t005" position="float"> <label>Table 5.</label> <caption><title>Validity and reliability of the present evaluation tool</title></caption> <table rules="groups" frame="hsides"> <thead> <tr valign="middle"> <th align="left" rowspan="2">Stage</th> <th align="center" rowspan="2">Subject</th> <th align="left" rowspan="2">Capabilities of IPE</th> <th align="center" rowspan="2">CVI</th> <th align="center" colspan="2" style="border-bottom: solid thin" >Reliability coefficient</th> </tr> <tr valign="middle"> <th align="center">Before</th> <th align="center">After</th> </tr> </thead> <tbody> <tr valign="middle"> <td align="left">RA<sup>a</sup></td> <td align="left">Learner</td> <td align="left"></td> <td align="center">1</td> <td align="center">-</td> <td align="center">0.840</td> </tr> <tr valign="middle"> <td align="left">LN</td> <td align="left">Learner</td> <td align="left">Values/ethics for interprofessional practice</td> <td align="center">0.8-1</td> <td align="center">0.812</td> <td align="center">0.818</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="left">Roles/responsibillities</td> <td align="center">1</td> <td align="center">0.795</td> <td align="center">0.801</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="left">Interprofessional communication</td> <td align="center">0.8-1</td> <td align="center">0.752</td> <td align="center">0.850</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="left">Teams and teamwork</td> <td align="center">0.8-1</td> <td align="center">0.807</td> <td align="center">0.816</td> </tr> <tr valign="middle"> <td align="left">BE</td> <td align="left">Learner</td> <td align="left">Values/ethics for interprofessional practice</td> <td align="center">1</td> <td align="center">0.665</td> <td align="center">0.790</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="left">Roles/responsibillities</td> <td align="center">0.8-1</td> <td align="center">0.900</td> <td align="center">0.801</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="left">Interprofessional communication</td> <td align="center">0.8-1</td> <td align="center">0.821</td> <td align="center">0.887</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="center"></td> <td align="left">Teams and teamwork</td> <td align="center">0.8</td> <td align="center">0.838</td> <td align="center">0.939</td> </tr> <tr valign="middle"> <td align="left">RS<sup>a</sup></td> <td align="left">Professor</td> <td align="left"></td> <td align="center">0.8-1</td> <td align="center">-</td> <td align="center">0.937</td> </tr> <tr valign="middle"> <td align="left"></td> <td align="left">Learner</td> <td align="left"></td> <td align="center">1</td> <td align="center">-</td> <td align="center">0.962</td> </tr> </tbody> </table> <table-wrap-foot> <p>LN, BE, RA and RS mean each stage of IPE; learning, behavior, reaction and result, respectively.</p> <p><sup>a</sup>are performed after-education.</p> <p>The content validity index (CVI) means the degree of validity about each question.</p> <p>Reliability coefficient was analyzed by Cronbach&#x2019;s &#x3B1;lpha coefficient.</p> </table-wrap-foot></table-wrap>
      </sec>
    </sec>
    <sec id="s4" sec-type="other">
      <title>총괄 및 고안</title>
      <p>역량에 기반한 교육은 구체적인 학습 목표에 대한 학습자의 수행 결과에 중점을 두고 있으며, 교육 현장과 일상에서의 갭을 최소화 시키는데 효과를 보여 왔다<xref ref-type="bibr" rid="r023">[23]</xref>. 이러한 핵심 역량기반 교육을 실행하기 위해서는 먼저 역량 평가를 위한 적합한 평가 도구가 필수적이다<xref ref-type="bibr" rid="r024">[24]</xref>. 보건의료 분야에서 부각되고 있는 IPE 또한 교육의 원활한 시행을 위해 2011년 IPEC에서 제시한 핵심 역량 4가지를 교육의 목표로 삼고 있으며<xref ref-type="bibr" rid="r005">[5]</xref>, 현재까지 Readiness for Interprofessional Learning Scale (RIPLS), Self-Efficacy for Interprofessional Experimental Learning Scale (SEIEL), Interprofessional Attitudes Scale (IPAS) 등의 도구가 IPE를 평가하기 위해 사용되고 있다. 그러나 각 도구들이 IPE 핵심 역량을 평가하기에 한계점이 존재하였으며, 한국 실정에 맞는 IPE 평가 도구는 개발된 적이 없었다. 이에, 본 연구에서는 각 도구들의 한계점을 극복하고, 국내 교육 실정에 맞는 평가 도구를 개발하여 핵심 역량별 IPE 효과를 확인하고자 하였다.</p>
      <p>본 연구에서는 IPEC에서 정의한 핵심 역량뿐만 아니라 영문으로 된 RIPLS, IPAS 등의 기존 도구들을 한국어로 번역해 한국 실정에 맞는 표현들로 다듬고 이를 전문가에게 검증하였다. 세부적으로 4가지 핵심 역량을 상호 간 존중, 역할 및 책임감, 의사소통 기술, 팀 협력으로 명시하였고, 일부 어색한 표현들을 수정 및 보완하였다. 특히, IPE 핵심 역량 4가지를 직접 평가 척도로 설정하여 도구를 개발하였기 때문에 선행 평가 도구들과 달리 IPE에 따른 학습자의 핵심 역량을 제대로 평가할 수 있다는 장점이 있다. 1999년 Parsell과 Bligh<xref ref-type="bibr" rid="r011">[11]</xref>에 의해 개발된 RIPLS는 학생들의 IPE 학습에 대한 준비 정도를 평가하는 도구이며, 팀워크와 협력, 전문직 정체성, 역할과 책임감 척도로 구성되어 있다. 이 도구는 타당도와 신뢰도가 비교적 높았지만 IPEC에서 제시한 IPE 핵심 역량이 정의되기 전에 개발되었기 때문에 핵심 역량 전체를 평가할 수 없다는 한계가 있었다. IPAS도 2015년 Norris 등<xref ref-type="bibr" rid="r013">[13]</xref>에 의해 역량 기반 평가를 목적으로 개발되었으며, 다각적인 요인 분석 하에 팀워크 역할과 책임감, 환자중심적 태도, 타 직종에 대한 편견, 다양성과 윤리, 지역 사회 중심적 태도 척도로 구성되어 있다. 이러한 척도들은 IPEC에서 제시한 핵심역량들과는 다소 거리가 있었기 때문에 핵심 역량을 간접적으로 평가한다는 한계가 있었다<xref ref-type="bibr" rid="r010">[10]</xref>. 이에, 본 연구에서 개발된 평가 도구가 IPE와 관련된 핵심 역량을 제대로 평가할 수 있을 것이라 사료된다.</p>
      <p>한편, 지금까지 IPE 효과 평가를 위해 다양한 평가 도구가 개발되었으나 학습자의 인식과 태도 평가로 한정돼 있었다<xref ref-type="bibr" rid="r013">[13</xref>,<xref ref-type="bibr" rid="r014">14]</xref>. 이에, 본 연구에서는 전문적인 교육 평가 모델을 본 도구에 적용하고자 하였고, 단계별 교육의 효과성뿐만 아니라 교육 결과에 대한 전반적인 내용을 평가할 수 있는 커크 패트릭 모델을 사용하였다. 이를 통해 학습자의 지식과 행동 변화뿐만 아니라 교육 결과까지 확인할 수 있는 포괄적인 평가 도구를 개발하고자 하였다. 커크 패트릭 모델을 적용함에 있어 선행 연구를 참고하였고, 전문가의 의견을 반영하여 각 교육 단계별에 적합한 표현들로 문항을 구성하였다. 또한 대부분의 기존 IPE 평가 도구가 자기평가로 이루어져 있어<xref ref-type="bibr" rid="r025">[25]</xref> 객관성을 유지하기 어렵다는 문제<xref ref-type="bibr" rid="r026">[26]</xref>를 반영하여 본 연구에서는 교수평가와 팀원평가를 삽입하였다. 이와 유사하게 Jung 등<xref ref-type="bibr" rid="r027">[27]</xref>의 연구에 따르면 커크 패트릭 모델의 단점으로 평가 주체가 획일화되어있다는 점을 지적하고, 타인에 의한 객관적 평가가 추가되어야 함이 주장된 바 있다. 더불어, 교수평가는 정확성과 객관성이 보장되어 있고<xref ref-type="bibr" rid="r028">[28]</xref>, 팀원평가는 평가의 타당도와 비교적 높아<xref ref-type="bibr" rid="r029">[29]</xref> 평가의 주체로 제안된 바 있다. 이에 따라 결과 단계의 평가 주체로 교육과 직접적으로 연관되어 있는 교수자와 팀원들이 선정되었고, 교육 효과와 관련하여 보다 객관성을 확보할 수 있었다.</p>
      <p>또한, 기존 평가 도구와는 달리 본 연구에서는 교육 전과 후를 명확히 구분해 도구를 개발하였다. IPE 평가 도구를 체계적으로 분석한 선행연구<xref ref-type="bibr" rid="r018">[18]</xref>에 따르면 대부분의 IPE 평가가 교육 전과 후에 이루어졌음을 알 수 있다. 이때 대부분 연구에서 하나의 IPE 평가 도구를 전후 동일하게 사용하고 있었으며, 학습자의 인식 및 태도 측정으로 한정되어 있었기 때문에 가능했으리라 사료된다. 본 연구에서도 교육의 효과를 비교하기 위해 평가 시점을 교육 전과 후로 구분하였으며, 더 나아가 학습자의 만족도, 학습자의 관련 지식 수준, 행동 변화, 교육 결과 모두를 평가할 수 있도록 단계별로 도구를 구성하여 평가하였다. 이에 따라, 교육 전에는 학습과 행동 단계를 평가하였고, 교육 후에는 반응, 학습, 행동, 결과 단계를 측정하였다. 이를 통해 교육 전후 효과를 체계적으로 비교할 수 있을 것으로 사료된다.</p>
      <p>본 연구는 델파이 조사와 Cronbach&#x2019;s &#x3B1;lpha coefficient를 실시하여 연구의 목적에 맞게 도구의 문항을 수정 및 보완하는 과정을 거쳤으며, 타당도와 신뢰도를 검증하였다. 평가 도구 개발에 있어 도구의 타당도를 측정하는 여러 가지의 방법 중 조사된 자료가 별로 없고 전문가의 합의된 의견이 필요한 경우 델파이 연구 방법을 사용하여 내용 타당도를 측정할 수 있다<xref ref-type="bibr" rid="r021">[21]</xref>. 내용 타당도란 측정도구의 내용이 측정하고자 하는 구성개념을 얼마나 적절히 반영하고 있는가를 나타낸 것으로, 본 연구에서는 Lynn<xref ref-type="bibr" rid="r021">[21]</xref>이 제시한 내용 타당도 지수(CVI) 방법을 사용하였다. 내용 타당도 분석 결과, CVI 지수 0.8-1.00 범위로, 타당도가 높은 도구임이 검증되었다. 한편, 신뢰도(reliability)는 도구가 얼마나 안정적으로 일관성 있게 측정하는가를 검증하는 것으로<xref ref-type="bibr" rid="r030">[30]</xref>, 신뢰도를 검증하기 위해서는 검사-재검사 신뢰도, 동형 검사 신뢰도, 반분 신뢰도, 내적 일관성 신뢰도 방법이 있다. 본 연구에서는 내적 일관성을 사용하였는데, 내적 일관성은 하나의 구성을 다항목으로 측정했을 때 각 항목들이 얼마나 일관성 혹은 동질성을 갖는지를 측정하는 것이다<xref ref-type="bibr" rid="r031">[31]</xref>. 내적 일관성 측정을 위해서 Cronbach&#x2019;s alpha가 많이 사용되며, 이는 도구개발 연구에서 신뢰도 측정을 위해 가장 많이 사용된다<xref ref-type="bibr" rid="r032">[32]</xref>. 이에 따라, 본 연구에서 Cronbach&#x2019;s alpha를 이용하여 개발된 최종 평가 도구의 신뢰도를 분석한 결과 값은 0.6 이상으로, 모든 문항들이 신뢰범위 안에 속함을 확인하였으므로 신뢰 가능한 도구라고 할 수 있었다.</p>
      <p>본 연구의 제한점은 다음과 같다. RIPLS, IPAS 등의 기존 평가 도구가 20문항 내외인 것을 고려할 때 본 연구에서 개발된 평가 도구의 문항의 수가 다소 많은 것으로 사료되며, 문항 수를 간략화한다면 임상 현장에서도 빠르고 쉽게 이용할 수 있을 것이라 생각된다. 또한 도구개발 과정에서 IPE 교육생을 접한 환자 대상 문항이 삭제되었는데, 그 이유로 일반 환자들은 교수자와 동료 학생에 비해 IPE에 대한 이해도가 떨어져 IPE의 핵심 역량을 구분하거나 확인할 수 없고, 학습자의 각 핵심 역량 수준을 제대로 인지할 수 없기 때문에 평가 주체로서 부적합할 것으로 사료되었기 때문이다. 다만, 선행 연구<xref ref-type="bibr" rid="r033">[33]</xref>에서 환자의 피드백이 학생의 의사소통 기술과 임상적인 기술 발달에 있어 학습자의 학습에 긍정적인 영향을 끼칠 것으로 보고된 바 있어, 본 평가 도구와는 별도로 환자 대상의 문항을 고려해볼 필요가 있다고 생각된다.</p>
      <p>결론적으로, 본 연구는 체계적인 IPE의 효과 평가를 위해 전문가 교육 평가에 많이 사용되는 모델 중 하나인 커크 패트릭 평가 모델을 사용하여 도구를 단계별로 구분하였으며 더 나아가 IPEC에서 제시한 핵심역량인 상호 간 존중, 역할 및 책임감, 의사소통 기술, 팀협력까지 직접적으로 평가 가능한 도구를 개발하였다. 이 평가 도구는 평가 시점을 교육 사전과 사후로 구분하였고, 이를 통해 교육 전후를 비교함으로써 단계와 핵심 역량별 학습자의 증진 정도를 파악하는 데 유용한 도구로 쓰일 수 있을 것이라 생각된다. 치과 현장은 치과의사, 치과위생사, 치기공사 등 기본적으로 여러 직종이 함께 협력하여 진료를 해내며, 치과위생사는 특히, 직접 환자를 대함에 있어 책임감을 가지고 필요한 부분들을 파악하고 제공해주어야 한다. 이러한 치과임상에서, IPE가 제안하는 &#x2018;상호 간 존중, 역할 및 책임감, 의사소통 기술, 팀 협력&#x2019;과 같은 핵심 역량들의 함양은 필수적이다. 이 과정에서 본 연구에서 개발한 핵심 역량 평가 도구는 임상가들의 각 역량 수준들을 파악할 수 있게 해주며, 이를 통해 관련 교육의 필요성 제시 및 부족한 교육 단계의 확인을 가능케 할 수 있을 것으로 생각한다. 최종적으로, 궁극적 목표인 환자 중심의 질 높은 구강보건의료 서비스 실현으로 한걸음 더 다가갈 수 있기를 기대하는 바이다.</p>
    </sec>
    <sec id="s5" sec-type="conclusions">
      <title>결론</title>
      <p>본 연구는 전문가 교육 평가에 많이 사용되는 모델 중 커크패트릭 평가 모델을 사용하여 평가 도구를 단계별로 구분하였으며 추가로 IPEC에서 제시한 4가지 핵심 역량까지 직접적으로 평가 가능한 도구를 개발하였다. 델파이 조사와 내적일관성 측정을 통해 내용타당도와 신뢰도를 검증하였으며, 본 연구의 결론은 다음과 같다.</p>
      <p>1. 본 연구 결과, 커크패트릭 평가 모델과 IPE의 4대 핵심역량으로 구성된 체계적인 교육평가 도구를 개발하였고, 해당 모델은 반응, 학습, 행동, 결과의 4단계로 구성되었으며, &#x2018;상호 간 존중&#x2019;, &#x2018;역할 및 책임감&#x2019;, &#x2018;의사소통 기술&#x2019;, &#x2018;팀 협력&#x2019;의 4개 역량을 측정할 수 있는 문항으로 구성되었다.</p>
      <p>2. 개발된 최종 문항들의 내용 타당도 지수(CVI)는 0.8-1.0이었고, 신뢰도 수준(Cronbach&#x2019;s alpha)은 0.665-0.962로, 교육 평가 도구로써 수용 가능할 만한 수준으로 평가되었다.</p>
      <p>향후, 본 연구에서 개발된 도구를 다양한 IPE의 교육 현장에 적용해본다면, 각 과정의 교육수준 평가 및 필요한 보완요소들을 찾는데 기여할 수 있을 것이라 생각되며, 이를 통해 미래 전문직 간 교육의 질 향상 및 운영 효율화에 도움이 될 수 있기를 기대한다.</p>
    </sec>
  </body>
  <back>
    <fn-group>
      <fn fn-type="other">
        <p>This article is based on a part of the first author’s master thesis from Eulji University.</p>
      </fn>
      <fn fn-type="conflict">
        <p><bold>Conflicts of Interest</bold> The authors declared no conflicts of interest.</p>
      </fn>
      <fn fn-type="other">
        <p><bold>Authorship</bold> Conceptualization: IH Jung, HW Choi; Data collection: HW Choi, MC Kim; Formal analysis: HW Choi; Writing-original draft: HW Choi, IH Jung; Writing-review&amp;editing: HW Choi, HJ Lim, MC Kim, DS Lim, IH Jung</p>
      </fn>
    </fn-group>
    <ref-list>
      <ref id="r001">
        <label>1.</label>
        <element-citation publication-type="journal" xml:lang="en">
          <person-group person-group-type="author">
            <name>
              <surname>Lee</surname>
              <given-names>HK</given-names>
            </name>
            <name>
              <surname>Kim</surname>
              <given-names>IS</given-names>
            </name>
            <name>
              <surname>Kim</surname>
              <given-names>GS</given-names>
            </name>
            <name>
              <surname>Kim</surname>
              <given-names>JH</given-names>
            </name>
            <name>
              <surname>Lee</surname>
              <given-names>TW</given-names>
            </name>
            <name>
              <surname>Lee</surname>
              <given-names>KH</given-names>
            </name>
            <etal>et al.</etal>
          </person-group>
          <article-title>Nursing and other health-related students</article-title>
          <source>J Korean Acad Soc Nurs Educ</source>
          <year>2019</year>
          <volume>25</volume>
          <issue>3</issue>
          <fpage>312</fpage>
          <lpage>320</lpage>
          <pub-id pub-id-type="doi">10.5977/jkasne.2019.25.3.312</pub-id>
        </element-citation>
      </ref>
      <ref id="r002">
        <label>2.</label>
        <element-citation publication-type="journal" xml:lang="en">
          <person-group person-group-type="author">
            <name>
              <surname>Hammick</surname>
              <given-names>M</given-names>
            </name>
            <name>
              <surname>Freeth</surname>
              <given-names>D</given-names>
            </name>
            <name>
              <surname>Koppel</surname>
              <given-names>I</given-names>
            </name>
            <name>
              <surname>Reeves</surname>
              <given-names>S</given-names>
            </name>
            <name>
              <surname>Barr</surname>
              <given-names>H</given-names>
            </name>
          </person-group>
          <article-title>A best evidence systematic review of Interprofessional education</article-title>
          <source>Medical Teacher</source>
          <year>2007</year>
          <volume>29</volume>
          <issue>8</issue>
          <fpage>735</fpage>
          <lpage>751</lpage>
          <pub-id pub-id-type="doi">10.1080/01421590701682576</pub-id>
        </element-citation>
      </ref>
      <ref id="r003">
        <label>3.</label>
        <element-citation publication-type="book" xml:lang="en">
          <collab>World Health Organization</collab>
          <source>WHO patient safety curriculum guide: multi-professional edition 2011</source>
          <publisher-name>World Health Organization</publisher-name>
          <publisher-loc>Swiss</publisher-loc>
          <year>2011</year>
          <fpage>25</fpage>
          <lpage>27</lpage>
        </element-citation>
      </ref>
      <ref id="r004">
        <label>4.</label>
        <element-citation publication-type="journal" xml:lang="en">
          <person-group person-group-type="author">
            <name>
              <surname>D&#x2019;amour</surname>
              <given-names>D</given-names>
            </name>
            <name>
              <surname>Oandasan</surname>
              <given-names>I</given-names>
            </name>
          </person-group>
          <article-title>Interprofessionality as the field of interprofessional practice and interprofessional education: an emerging concept</article-title>
          <source>J Interpr of Care</source>
          <year>2005</year>
          <volume>19</volume>
          <issue>1</issue>
          <fpage>8</fpage>
          <lpage>20</lpage>
          <pub-id pub-id-type="doi">10.1080/13561820500081604</pub-id>
        </element-citation>
      </ref>
      <ref id="r005">
        <label>5.</label>
        <element-citation publication-type="thesis" xml:lang="en">
          <person-group person-group-type="author">
            <name>
              <surname>Yoon</surname>
              <given-names>SY</given-names>
            </name>
          </person-group>
          <source>A literature review of association between periodontal disease and systemic disease[Master&#x2019;s thesis]</source>
          <publisher-name>Chonnam National University</publisher-name>
          <publisher-loc>Gwangju</publisher-loc>
          <year>2017</year>
          <page-range>2017</page-range>
        </element-citation>
      </ref>
      <ref id="r006">
        <label>6.</label>
        <element-citation publication-type="journal" xml:lang="en">
          <person-group person-group-type="author">
            <name>
              <surname>Grant</surname>
              <given-names>C</given-names>
            </name>
            <name>
              <surname>Lesley</surname>
              <given-names>B</given-names>
            </name>
            <name>
              <surname>John</surname>
              <given-names>G</given-names>
            </name>
          </person-group>
          <article-title>The University of British Columbia model of interprofessional education</article-title>
          <source>J Interprof Care</source>
          <year>2010</year>
          <volume>24</volume>
          <issue>1</issue>
          <fpage>9</fpage>
          <lpage>18</lpage>
          <pub-id pub-id-type="doi">10.3109/13561820903294549</pub-id>
        </element-citation>
      </ref>
      <ref id="r007">
        <label>7.</label>
        <element-citation publication-type="journal" xml:lang="en">
          <person-group person-group-type="author">
            <name>
              <surname>Maria</surname>
              <given-names>JK</given-names>
            </name>
            <name>
              <surname>Nico</surname>
              <given-names>HJC</given-names>
            </name>
            <name>
              <surname>Vanessa</surname>
              <given-names>RYH</given-names>
            </name>
            <name>
              <surname>Miranda</surname>
              <given-names>GHL</given-names>
            </name>
          </person-group>
          <article-title>Perceptions of interprofessional collaboration in education of dentists and dental hygienists and the impact on dental practice in the Netherlands: a qualitative study</article-title>
          <source>Eur J Dent Educ</source>
          <year>2020</year>
          <volume>24</volume>
          <issue>1</issue>
          <fpage>145</fpage>
          <lpage>153</lpage>
          <pub-id pub-id-type="doi">10.1111/eje.12478</pub-id>
        </element-citation>
      </ref>
      <ref id="r008">
        <label>8.</label>
        <element-citation publication-type="thesis" xml:lang="en">
          <person-group person-group-type="author">
            <name>
              <surname>Oh</surname>
              <given-names>SA</given-names>
            </name>
          </person-group>
          <source>A study on the practical examples of interprofessional education of health and medical welfare field[Master&#x2019;s thesis]</source>
          <publisher-name>ChosunUniversity</publisher-name>
          <publisher-loc>Gwangju</publisher-loc>
          <year>2021</year>
        </element-citation>
      </ref>
      <ref id="r009">
        <label>9.</label>
        <element-citation publication-type="book" xml:lang="en">
          <collab>Interprofessional Education Collaborative Expert Panel</collab>
          <source>Core competencies for interprefessional collaborative practice: report of an expert panel</source>
          <publisher-name>InterprofessionalEducationCollaborative</publisher-name>
          <publisher-loc>WashingtonD.C.</publisher-loc>
          <year>2011</year>
          <fpage>15</fpage>
          <lpage>26</lpage>
        </element-citation>
      </ref>
      <ref id="r010">
        <label>10.</label>
        <element-citation publication-type="journal" xml:lang="en">
          <person-group person-group-type="author">
            <name>
              <surname>Edelbring</surname>
              <given-names>S</given-names>
            </name>
            <name>
              <surname>Dahlgren</surname>
              <given-names>MA</given-names>
            </name>
            <name>
              <surname>Edstrom</surname>
              <given-names>DW</given-names>
            </name>
          </person-group>
          <article-title>Characteristics of two questionnaires used to assess interprofessional learning: psycho metrics and expertpanelevaluations</article-title>
          <source>BMCmedicaleducation</source>
          <year>2018</year>
          <volume>18</volume>
          <issue>1</issue>
          <fpage>40</fpage>
          <pub-id pub-id-type="doi">10.1186/s12909-018-1153-y</pub-id>
        </element-citation>
      </ref>
      <ref id="r011">
        <label>11.</label>
        <element-citation publication-type="journal" xml:lang="en">
          <person-group person-group-type="author">
            <name>
              <surname>Parsell</surname>
              <given-names>G</given-names>
            </name>
            <name>
              <surname>Bligh</surname>
              <given-names>J</given-names>
            </name>
          </person-group>
          <article-title>The development of a questionnaire to assess the readiness of health care students for interprofessional learning (RIPLS)</article-title>
          <source>MedicalEducation</source>
          <year>1999</year>
          <volume>33</volume>
          <issue>2</issue>
          <fpage>95</fpage>
          <lpage>100</lpage>
          <pub-id pub-id-type="doi">10.1046/j.1365-2923.1999.00298.x</pub-id>
        </element-citation>
      </ref>
      <ref id="r012">
        <label>12.</label>
        <element-citation publication-type="journal" xml:lang="en">
          <person-group person-group-type="author">
            <name>
              <surname>Mann</surname>
              <given-names>K</given-names>
            </name>
            <name>
              <surname>McFetridge-Durdle</surname>
              <given-names>J</given-names>
            </name>
            <name>
              <surname>Breau</surname>
              <given-names>L</given-names>
            </name>
            <name>
              <surname>Clovis</surname>
              <given-names>J</given-names>
            </name>
            <name>
              <surname>Martin-Misener</surname>
              <given-names>R</given-names>
            </name>
            <name>
              <surname>Matheson</surname>
              <given-names>T</given-names>
            </name>
            <etal>et al.</etal>
          </person-group>
          <article-title>Development of a scale to measure health professions students’self-efficacy beliefsininter professional learning</article-title>
          <source>J Interprof Care</source>
          <year>2012</year>
          <volume>26</volume>
          <issue>2</issue>
          <fpage>92</fpage>
          <lpage>99</lpage>
          <pub-id pub-id-type="doi">10.3109/13561820.2011.640759</pub-id>
        </element-citation>
      </ref>
      <ref id="r013">
        <label>13.</label>
        <element-citation publication-type="journal" xml:lang="en">
          <person-group person-group-type="author">
            <name>
              <surname>Norris</surname>
              <given-names>J</given-names>
            </name>
            <name>
              <surname>, Carpenter</surname>
              <given-names>JG</given-names>
            </name>
            <name>
              <surname>Eaton</surname>
              <given-names>J</given-names>
            </name>
            <name>
              <surname>Guo</surname>
              <given-names>JW</given-names>
            </name>
            <name>
              <surname>Lassche</surname>
              <given-names>M</given-names>
            </name>
            <name>
              <surname>Pett</surname>
              <given-names>MA</given-names>
            </name>
            <etal>et al.</etal>
          </person-group>
          <article-title>The development and validation of the interprofessional attitudes scale: assessing the interprofessional attitudes of students in the health professions</article-title>
          <source>Acad Med</source>
          <year>2015</year>
          <volume>90</volume>
          <issue>10</issue>
          <fpage>1394</fpage>
          <lpage>1400</lpage>
          <pub-id pub-id-type="doi">10.1097/ACM.0000000000000764</pub-id>
        </element-citation>
      </ref>
      <ref id="r014">
        <label>14.</label>
        <element-citation publication-type="journal" xml:lang="en">
          <person-group person-group-type="author">
            <name>
              <surname>Gillan</surname>
              <given-names>C</given-names>
            </name>
            <name>
              <surname>Lovrics</surname>
              <given-names>E</given-names>
            </name>
            <name>
              <surname>Halpern</surname>
              <given-names>E</given-names>
            </name>
            <name>
              <surname>Wiljer</surname>
              <given-names>D</given-names>
            </name>
            <name>
              <surname>Harnett</surname>
              <given-names>N</given-names>
            </name>
          </person-group>
          <article-title>The evaluation of learner outcomes in interprofessional continuing education: a literature reviewandananalysisofsurveyinstruments</article-title>
          <source>MedicalTeacher</source>
          <year>2011</year>
          <volume>33</volume>
          <issue>9</issue>
          <fpage>461</fpage>
          <lpage>470</lpage>
          <pub-id pub-id-type="doi">10.3109/0142159X.2011.587915</pub-id>
        </element-citation>
      </ref>
      <ref id="r015">
        <label>15.</label>
        <element-citation publication-type="book" xml:lang="en">
          <person-group person-group-type="author">
            <name>
              <surname>Kirkpatrick</surname>
              <given-names>D</given-names>
            </name>
            <name>
              <surname>Kirkpatrick</surname>
              <given-names>J.</given-names>
            </name>
          </person-group>
          <source>Evaluatingtraining programs: Thefourlevels</source>
          <edition>3rded</edition>
          <publisher-name>Berrett-KoehlerPublishers</publisher-name>
          <publisher-loc>Oakland</publisher-loc>
          <year>2006</year>
          <fpage>27</fpage>
          <lpage>71</lpage>
        </element-citation>
      </ref>
      <ref id="r016">
        <label>16.</label>
        <element-citation publication-type="journal" xml:lang="en">
          <person-group person-group-type="author">
            <name>
              <surname>Kirkpatrick</surname>
              <given-names>DL</given-names>
            </name>
          </person-group>
          <article-title>Seven keys to unlock the four levels of evaluation</article-title>
          <source>Performance Improvement</source>
          <year>2006</year>
          <volume>45</volume>
          <issue>7</issue>
          <fpage>5</fpage>
          <lpage>8</lpage>
          <pub-id pub-id-type="doi">10.1002/pfi.2006.4930450702</pub-id>
        </element-citation>
      </ref>
      <ref id="r017">
        <label>17.</label>
        <element-citation publication-type="book" xml:lang="en">
          <person-group person-group-type="author">
            <name>
              <surname>Peter</surname>
              <given-names>D</given-names>
            </name>
          </person-group>
          <source>How to Succeed at Interprofessional Education</source>
          <publisher-name>Wiley-Blackwell</publisher-name>
          <publisher-loc>Hoboken</publisher-loc>
          <year>2019</year>
          <fpage>105</fpage>
          <lpage>134</lpage>
        </element-citation>
      </ref>
      <ref id="r018">
        <label>18.</label>
        <element-citation publication-type="journal" xml:lang="en">
          <person-group person-group-type="author">
            <name>
              <surname>Park</surname>
              <given-names>HY</given-names>
            </name>
            <name>
              <surname>Cho</surname>
              <given-names>JY</given-names>
            </name>
            <name>
              <surname>Chu</surname>
              <given-names>SH</given-names>
            </name>
          </person-group>
          <article-title>Interprofessional education programs for nursing students: a systematic review</article-title>
          <source>J Korean Acad Soc Nurs Educ</source>
          <year>2018</year>
          <volume>24</volume>
          <issue>3</issue>
          <fpage>235</fpage>
          <lpage>249</lpage>
          <pub-id pub-id-type="doi">10.5977/jkasne.2018.24.3.235</pub-id>
        </element-citation>
      </ref>
      <ref id="r019">
        <label>19.</label>
        <element-citation publication-type="thesis" xml:lang="en">
          <person-group person-group-type="author">
            <name>
              <surname>Oh</surname>
              <given-names>MN</given-names>
            </name>
          </person-group>
          <source>A study on the reaction evaluation of job analysis-based curriculum: focusing on the NCS-based curriculum of community colleges[Master&#x2019;sthesis]</source>
          <publisher-name>Dongduk Women&#x2019;s University</publisher-name>
          <publisher-loc>Seoul</publisher-loc>
          <year>2015</year>
        </element-citation>
      </ref>
      <ref id="r020">
        <label>20.</label>
        <element-citation publication-type="thesis" xml:lang="en">
          <person-group person-group-type="author">
            <name>
              <surname>Lee</surname>
              <given-names>JY</given-names>
            </name>
          </person-group>
          <source>A research on relationships among physical therapy environmental services, patient satisfaction and revisit intentions in a military hospital[Master&#x2019;sthesis]</source>
          <publisher-name>HallymUniversity</publisher-name>
          <publisher-loc>Chuncheon</publisher-loc>
          <year>2019</year>
        </element-citation>
      </ref>
      <ref id="r021">
        <label>21.</label>
        <element-citation publication-type="journal" xml:lang="en">
          <person-group person-group-type="author">
            <name>
              <surname>Lynn</surname>
              <given-names>MR.</given-names>
            </name>
          </person-group>
          <article-title>Determination and quantification of contentvalidity</article-title>
          <source>Nurs Res</source>
          <year>1986</year>
          <volume>35</volume>
          <issue>6</issue>
          <fpage>382</fpage>
          <lpage>385</lpage>
          <pub-id pub-id-type="doi">10.1097/00006199-198611000-00017</pub-id>
        </element-citation>
      </ref>
      <ref id="r022">
        <label>22.</label>
        <element-citation publication-type="journal" xml:lang="en">
          <person-group person-group-type="author">
            <name>
              <surname>Knapp</surname>
              <given-names>TR</given-names>
            </name>
          </person-group>
          <article-title>Coefficient alpha: conceptualizations and anomalies</article-title>
          <source>Res Nurs Health</source>
          <year>1991</year>
          <volume>14</volume>
          <issue>6</issue>
          <fpage>457</fpage>
          <lpage>460</lpage>
          <pub-id pub-id-type="doi">10.1002/nur.4770140610</pub-id>
        </element-citation>
      </ref>
      <ref id="r023">
        <label>23.</label>
        <element-citation publication-type="journal" xml:lang="en">
          <person-group person-group-type="author">
            <name>
              <surname>Applin</surname>
              <given-names>H</given-names>
            </name>
            <name>
              <surname>Williams</surname>
              <given-names>B</given-names>
            </name>
            <name>
              <surname>Day</surname>
              <given-names>R</given-names>
            </name>
            <name>
              <surname>Buro</surname>
              <given-names>K</given-names>
            </name>
          </person-group>
          <article-title>A comparison of competencies between problem-based learning and non-problem based graduate nurses</article-title>
          <source>Nurse Educ Today</source>
          <year>2011</year>
          <volume>31</volume>
          <issue>2</issue>
          <fpage>129</fpage>
          <lpage>134</lpage>
          <pub-id pub-id-type="doi">10.1016/j.nedt.2010.05.003</pub-id>
        </element-citation>
      </ref>
      <ref id="r024">
        <label>24.</label>
        <element-citation publication-type="journal" xml:lang="en">
          <person-group person-group-type="author">
            <name>
              <surname>Morris</surname>
              <given-names>MC</given-names>
            </name>
            <name>
              <surname>Gallagher</surname>
              <given-names>TK</given-names>
            </name>
            <name>
              <surname>Ridgway</surname>
              <given-names>PF</given-names>
            </name>
          </person-group>
          <article-title>Tools used to assess medical students competence in procedural skills at the end of a primary medical degree:asystematicreview</article-title>
          <source>Med Educ Online</source>
          <year>2012</year>
          <volume>17</volume>
          <issue>1</issue>
          <fpage>1</fpage>
          <lpage>9</lpage>
          <pub-id pub-id-type="doi">10.3402/meo.v17i0.18398</pub-id>
        </element-citation>
      </ref>
      <ref id="r025">
        <label>25.</label>
        <element-citation publication-type="journal" xml:lang="en">
          <person-group person-group-type="author">
            <name>
              <surname>Rogers</surname>
              <given-names>GD</given-names>
            </name>
            <name>
              <surname>Thistlethwaite</surname>
              <given-names>JE</given-names>
            </name>
            <name>
              <surname>Anderson</surname>
              <given-names>ES</given-names>
            </name>
            <name>
              <surname>Abrandt</surname>
              <given-names>DM</given-names>
            </name>
            <name>
              <surname>Grymonpre</surname>
              <given-names>RE</given-names>
            </name>
            <name>
              <surname>Moran</surname>
              <given-names>M</given-names>
            </name>
            <etal>et al.</etal>
          </person-group>
          <article-title>International consensus statement on the assessment of interprofessional learning outcomes</article-title>
          <source>Med Teach</source>
          <year>2017</year>
          <volume>39</volume>
          <issue>4</issue>
          <fpage>347</fpage>
          <lpage>359</lpage>
          <pub-id pub-id-type="doi">10.1080/0142159X.2017.1270441</pub-id>
        </element-citation>
      </ref>
      <ref id="r026">
        <label>26.</label>
        <element-citation publication-type="journal" xml:lang="en">
          <person-group person-group-type="author">
            <name>
              <surname>An</surname>
              <given-names>JH</given-names>
            </name>
          </person-group>
          <article-title>A case study on multi-source assessment of teaching: its possibility and limitation</article-title>
          <source>The Journal of Curriculum Studies</source>
          <year>2007</year>
          <volume>25</volume>
          <issue>4</issue>
          <fpage>179</fpage>
          <lpage>205</lpage>
          <pub-id pub-id-type="doi">10.15708/kscs.25.4.200712.008</pub-id>
        </element-citation>
      </ref>
      <ref id="r027">
        <label>27.</label>
        <element-citation publication-type="journal" xml:lang="en">
          <person-group person-group-type="author">
            <name>
              <surname>Jung</surname>
              <given-names>EJ</given-names>
            </name>
            <name>
              <surname>Sung</surname>
              <given-names>SSL</given-names>
            </name>
            <name>
              <surname>Woo</surname>
              <given-names>SM</given-names>
            </name>
          </person-group>
          <article-title>HRD practitioners’ recognition of the Kirkpatrick evaluation model: focused on strengths, limits, and improvements</article-title>
          <source>KJHRDQ</source>
          <year>2016</year>
          <volume>18</volume>
          <issue>3</issue>
          <fpage>115</fpage>
          <lpage>143</lpage>
          <pub-id pub-id-type="doi">10.18211/kjhrdq.2016.18.3.005</pub-id>
        </element-citation>
      </ref>
      <ref id="r028">
        <label>28.</label>
        <element-citation publication-type="journal" xml:lang="en">
          <person-group person-group-type="author">
            <name>
              <surname>Kim</surname>
              <given-names>SJ</given-names>
            </name>
            <name>
              <surname>Kang</surname>
              <given-names>HK</given-names>
            </name>
          </person-group>
          <article-title>Problem based learning evaluation and evaluation agents-focused on tutor, peer and self evaluation</article-title>
          <source>KAIS</source>
          <year>2013</year>
          <volume>14</volume>
          <issue>8</issue>
          <fpage>3732</fpage>
          <lpage>3738</lpage>
          <pub-id pub-id-type="doi">10.5762/KAIS.2013.14.8.3732</pub-id>
        </element-citation>
      </ref>
      <ref id="r029">
        <label>29.</label>
        <element-citation publication-type="journal" xml:lang="en">
          <person-group person-group-type="author">
            <name>
              <surname>Topping</surname>
              <given-names>K</given-names>
            </name>
          </person-group>
          <article-title>Peer assessment between students in colleges and universities</article-title>
          <source>Rev Educ Res</source>
          <year>1998</year>
          <volume>68</volume>
          <issue>3</issue>
          <fpage>249</fpage>
          <lpage>276</lpage>
          <pub-id pub-id-type="doi">10.2307/1170598</pub-id>
        </element-citation>
      </ref>
      <ref id="r030">
        <label>30.</label>
        <element-citation publication-type="book" xml:lang="en">
          <person-group person-group-type="author">
            <name>
              <surname>Sung</surname>
              <given-names>TJ</given-names>
            </name>
          </person-group>
          <source>Validity and reliability</source>
          <edition>2nd ed.</edition>
          <publisher-name>hakjisa</publisher-name>
          <publisher-loc>Seoul</publisher-loc>
          <year>2002</year>
          <fpage>83</fpage>
          <lpage>129</lpage>
        </element-citation>
      </ref>
      <ref id="r031">
        <label>31.</label>
        <element-citation publication-type="book" xml:lang="en">
          <person-group person-group-type="author">
            <name>
              <surname>Polit</surname>
              <given-names>DF</given-names>
            </name>
          </person-group>
          <source>Measurement and the measurement of change</source>
          <edition>2nd ed.</edition>
          <publisher-name>Wolters Kluwer</publisher-name>
          <publisher-loc>NewYork</publisher-loc>
          <year>2016</year>
          <fpage>108</fpage>
          <lpage>168</lpage>
        </element-citation>
      </ref>
      <ref id="r032">
        <label>32.</label>
        <element-citation publication-type="journal" xml:lang="en">
          <person-group person-group-type="author">
            <name>
              <surname>Lee</surname>
              <given-names>EH</given-names>
            </name>
            <name>
              <surname>Kang</surname>
              <given-names>EH</given-names>
            </name>
            <name>
              <surname>Kang</surname>
              <given-names>HJ</given-names>
            </name>
          </person-group>
          <article-title>Evaluation of studies on the measurement properties of self-reported instruments</article-title>
          <source>Asian Nurs Res</source>
          <year>2020</year>
          <volume>14</volume>
          <issue>5</issue>
          <fpage>267</fpage>
          <lpage>276</lpage>
          <pub-id pub-id-type="doi">10.1016/j.anr.2020.11.004</pub-id>
        </element-citation>
      </ref>
      <ref id="r033">
        <label>33.</label>
        <element-citation publication-type="journal" xml:lang="en">
          <person-group person-group-type="author">
            <name>
              <surname>Finch</surname>
              <given-names>E</given-names>
            </name>
            <name>
              <surname>Lethlean</surname>
              <given-names>J</given-names>
            </name>
            <name>
              <surname>Rose</surname>
              <given-names>T</given-names>
            </name>
            <name>
              <surname>Fleming</surname>
              <given-names>J</given-names>
            </name>
            <name>
              <surname>Theodoros</surname>
              <given-names>D</given-names>
            </name>
            <name>
              <surname>Cameron</surname>
              <given-names>A</given-names>
            </name>
            <etal>et al.</etal>
          </person-group>
          <article-title>How does feedback from patients impact upon healthcare student clinical skill development and learning? a systematic review</article-title>
          <source>Medical Teacher</source>
          <year>2018</year>
          <volume>40</volume>
          <issue>3</issue>
          <fpage>244</fpage>
          <lpage>252</lpage>
          <pub-id pub-id-type="doi">10.1080/0142159X.2017.1401218</pub-id>
        </element-citation>
      </ref>
    </ref-list>
  </back>
</article>
