I got 51 problems but a #2 pencil ain’t one. 나는 51 문제가 아니라 # 2 연필이 하나가 아닌지.

Booz Allen Hamilton has a funny name but they’re all about serious business. 부즈 앨런 해밀턴이 재미있는 이름을하지만 그들은 모든 사업에 대해 심각합니다. The “global strategy and technology 의 "글로벌 전략과 기술 consulting firm 컨설팅 회사 ” was contracted by the College Board in the fallout of the SAT scoring mistakes from last October. "이 계약으로 대학의 보드에 악영향은 지난해 10 월부터 토요일 점수 실수를합니다. They audited the testing process and made a report, which was hidden away. 테스트 과정과 그들이 감사 보고서가있는가 숨어있다는 걸 알아야합니다. At least until Senator LaValle used subpoena powers and 소환 능력을 사용하기 전까지 적어도 상원 의원과 라발 demanded the report 이 보고서를 요구 be made public–they were required to do so by New York’s “truth in testing” state laws but the College Board stated that they were “exempt from state law.” I love this choice quote: “Once again The College Board’s approach to problems is to shroud them in secrecy,” Senator LaValle said in a July 13 news release. - 그들은 필요가를 공개하여이를 위해 뉴욕의 "진실을 시험"주법 그러나 대학 보드 밝혔다 그들은 "주 법률에서 면제합니다."사랑이 선택 따옴표 : "다시 한 번 대학 보드 ' 그들의 접근 방법에 문제가이 비밀을 막, "상원 의원에 라발 7월 13일 뉴스 릴리스 말했다. Their attitude gives rise to greater questions as to their true purpose .” What do you mean, Senator LaValle? "그들의 태도는 그들의 진정한 목표로 질문에 큰 상승을합니다."무슨 뜻 이죠, 상원 의원 라발? Is there still a problem? 가 여전히 문제가 되나?

“The board’s lack of accountability in this matter goes to the heart of the arrogance that exists when an organization basically holds a monopoly in a certain market,” LaValle said in a statement following the release of the report. "이사회는이 문제에 대해 책임 부족의 심장에 간다 오만에 존재하는 조직 기본적으로 보유하면 특정 시장을 독점하고,"라발는 다음과 같은 성명서에서이 보고서의 석방을합니다. “This report still does not answer why such a large number of testing errors occurred on the October 2005 SAT. "이 리포트는 아직 응답하지 않습니다 같은 이유에서 다수의 테스트를 2005년 10월 오류가 발생했습니다 토. In addition, the board has not provided an explanation of why it took several months to inform over 4,000 students of inaccurate test scores.” 또한이위원회는 이유에 대한 설명이 제공되지 않음을 알려 몇 개월 걸렸습니다 정확하지 않은 이상 4000 수학 능력 시험 성적의 학생합니다. "

Additionally, The National Center for Fair and Open Testing responded to the report by releasing a list of questions that the study did not answer. 또한, 국립 센터를 오픈 테스트를 공정하고 답변을 질문의 목록을 발표하는이 보고서의 연구에 대답하지 않았다. Among them: What was the root cause of the problem? 그중 :이 문제의 근본 원인은 무엇입니까? When did The College Board receive the first request for hand scoring of the October SAT? 대학은 언제 손 보드가 나타납니다 점수에 대한 요청은 10 월 첫째 토? How many weeks did it take for the board to respond to that request? 얼마나 많은 주일에 한 소요 보드에 회신하여 그 요청? When did The College Board first discover a broad problem? 대학 기판은 언제 처음 발견하는 광범위한 문제가 되나? Why was there a delay between that time and when test takers and others were informed of the problem? 지연 시간을 사이에 해당하는 이유는 무엇입니까 때이 정보를 수험생 및 기타의 문제가 되나?

[thanks, [감사합니다, Daily Stanford 일일 스탠포드 ]

Now, I went into that report (it’sa powerpoint presentation) and picked out some of the most fun parts of it. 지금, 나는이 충돌한 보고서 (이것 파워 포인트 프레 젠 테이션) 및 대부분의 재미를 골라 내서의 일부 부분이있습니다. Actually, it’s more a case of me fearmongering by promoting potentially frightening sections of a report which just goes to show how flimsy the SAT is as part of a situation which just demonstrates how much that not-for-profit status is bullshit. 사실, 이건 나 fearmongering를 홍보하여 더 많은 잠재적인 무서운 사건을보고 어떤 부분 the 토는 단순히를 표시하는 방법의 일환으로 설득력없는 상황에 어느 정도 그렇지 않기를 단지 - 위해 - 이익을하는 방법을 보여줍니다 상태는 말도합니다.


The report was released July 26 and has since been buried from the public as best the College Board can manage. 이 보고서는 이후 26 년 7 월에 공공으로 최고의 대학에서이 보드에 묻혀 관리할 수있습니다. It’s available on their website 그것이 자신의 웹사이트에 사용할 수있는 here 여기에 ; I’m not making this stuff up. ; 나는 이런 것들을하지 않고 있죠. Booz Allen Hamilton placed each of the 51 identified error-risk-locations into one of these categories: 각각의 위치 부즈 앨런 해밀턴 51 - 리스크 - 위치를 하나의 오류가 발견 이러한 분류 :

A. Not at all mitigated or detected 대답 : 완화하거나 전혀 검출
B. Partial mitigation or detection of risk b. 검색을 부분적으로 완화하거나 위험
C. Substantial mitigation or detection of risk c. 검색을 크게 완화하거나 위험
D. Completely mitigated or detected 디 완전히 완화 또는 검출

There were some really cute flowcharts and diagrams, too–even little pie charts of “overall rating” for the likelihood a particular flaw in the testing chain could fail. 정말 귀여운 흐름도 및 다이어그램이 일부도 - 심지어 작은 파이 차트 "전체 등급"을 확률 테스트를 특정 사슬에 결함이 실패할 수도있습니다. There were several charts–one titled “Prioritization of Risk” (on slide 54 for those reading along) shows the killzone. 이 여러 차트 - 한 제목은 "우선 순위의 위험"(독서 따라 이들을위한 슬라이드 54) killzone 나타냅니다. These 4 were both of “higher impact” (ie “affects large part or whole answer sheet”) and “high likelihood,” remember the color scheme: 이들 4는 둘 다 "더 높은 미치는 영향"(예 : "영향을 미치는 대규모의 일부 또는 전체 답안지")과 "높은 확률,"기억하고 색 구성표 :

7. Scanner reading variation due to erasure 7. 스캐너 독서 변동으로 인해 삭제
3. 3. Scanner variation on marginal marks 스캐너 유사 상표에 한계
4. Scanner reading variation due to alternative writing implement 스캐너 읽고 쓰기 변동으로 인해 구현하는 대안
26. Answer sheets left in test books 남아있는 시험 답안지 도서

Don’t worry, they provide partial solutions on slide 56. 걱정 마세요, 그들은 부분적인 솔루션을 제공합니다 슬라이드 56. For instance, pesky #7 can be solved by… 예를 들면, 성가신 # 7으로써 해결할 수도있습니다…

  1. Continue double scan 계속 이중 스캔
  2. Supply pencils/erasers at test centers 공급 연필 / 지우개 테스트 센터

Wait, that’s it? 잠깐,이게 다야? That’s how they solve it? 그들이 어떻게 해결하는가? What about the blank spaces under “medium-term improvements” and “major future changes” or “follow-on analysis”? 아래 빈 공간을 무엇에 대해 "중간 - 용어 개선"과 "주요 미래의 변경 사항"또는 "다음 -를 분석"? Why is there even the “follow-on analysis” table if there is nothing in it on that entire slide? 거기에도 이유는 무엇입니까은 "다음 -를 분석"테이블에 대해선 아무것도있다면 전체를 슬라이드? Okay, whatever. 그래, 무슨합니다. How do we solve “ Scanner reading variation due to alternative writing implement ” ? 어떻게 문제를 해결 "스캐너 읽고 쓰기를 구현 대안 변동으로 인해"? We… supply pencils and erasers at test centers. 우리가… 공급 장치, 연필, 지우개 테스트 센터합니다. Oh. 오. And that finishes it? 그가 완료어요? Oh, we can “Investigate software upgrades for consistent readings (color scanning, wavelength, etc.)” also? 오, 우리는 "소프트웨어 업그레이 드에 대한 조사를 일관성있는 수치 (컬러 스캐닝, 파장 등)"을 구입? That’s great. 잘됐다. And then eventually have an online test? 그러면 결국은 온라인 테스트? That sounds stupid but I’ll take your word for it. 바보 같은 소리하지만 난 당신 말을 맡지합니다. Hmm, those problems sound easier to fix than some of the other ones, though. 흠, 이러한 문제를 해결 소리보다 쉽게 다른 것들 중 일부지만. Error 51, Errors in deleting items from database –that sounds nasty. 오류 51, 오류가 데이터베이스에서 항목을 삭제하는 중 - 소리 불쾌한합니다. You would have to ” Ensure DB backup and rollback procedures in place” to solve that one. 당신은 "데이터베이스의 백업 및 롤백 절차를 보장 장소"를 해결하기는 하나.

Oh well, I’ll trust that stuff. 아 그럼, 내가 그런 것들을 신뢰합니다. I’ll just skip to the appendix and see if there is anything else of interest…Oh, look, here are some of those things that were of lower likelihood! 부록을보고 난 단지로 건너 뛰 다른 사람의 관심을 아무것도있다면… 아, 자, 여기에 그 중 일부가 낮은 과거의 일들과 확률! These can’t be very important. 이들은 아주 중요하다 수없습니다. Hang on, they could have “higher” impact? 꽉 잡아, 그들은 우리가 "높은"미치는 영향? Okay, what happens if there is “Scanner variation due to smeared pencil marks.” That can’t be that bad. 네,있다면 어떻게됩니까는 "스캐너 변동으로 인해 착수금 연필 자국합니다."그것은 그렇게 나쁘지 않을 수있습니다. Smeared pencil marks due to manual handling–I can see that happening, I guess. 연필 자국 착수금으로 인해 수동으로 처리 - 내가 볼 수가 일어나고, 아마. And what’s the result? Inaccurate scores ? 무엇이 결과는 어떻습니까? 부정 확한 점수를? Say it ain’t so! 이 아니라고 그래서! Well, at least there are now protections for that. 음, 적어도 지금은 보호를 해당합니다. Wait, there are “none” now or in the foreseeable future? 잠깐,이 "없음"지금 또는 미래의 예견? Dang. 댕합니다. Too bad there are several other ways for that to happen, too–not least among them a PEM database corruption which results in data storage failure and then… inaccurate scores. 너무 나쁜 일이 일어 나도록하는에는 여러 다른 방법을도 -없습니다 중 최소한 그들에게 어떤 결과가 뛰어나 데이터베이스가 손상될… 부정 확한 데이터 스토리지 실패하고 다음을 점수를합니다. And which again has “none” ways against happening right now. 를 다시하고 있고, 어느은 "없음"바로 지금 일어나는 방법으로 반대합니다. Glad to see you have it all under control, College Board, but I’m still seeing a little too much red . 만나서 반갑습니다 모든 상황을 통제하고있어, 대학 보드,하지만 지금도 여전히 전을 너무 많이보고 약간 붉은합니다. Not you, though–all you see is green, green, cash. 그렇지, 비록 - 당신이보고있는이 녹색, 녹색, 현금으로합니다. Good thing you still manage to keep the best interests of the students your balance books in mind. 좋은 아직도 학생의 최상의 이익을 유지 관리하는 귀하의 균형을 도서의 마음을합니다.

Finish with more from the Daily Stanford article… 일일 스탠포드에서 더 많은 자료를 완료…

In the long run, the report makes the recommendation of offering the SAT online as a way to minimize scoring problems due to mechanical malfunctions, though the prospect of an online SAT raises many security questions. 긴 안목으로 보면,이 보고서 토가 온라인으로 제공하는 추천의 점수를 최소화하는 방법으로 기계적인 결함으로 인해 문제가지만 전망 많은 보안 문제를 제기하는 온라인 토. Certainly, the amount of weight given to SAT scores in college admissions necessitates that the process be carefully scrutinized for error. 물론, 토양의 양을 무게를 건네 대학에 입학 점수를주의 깊게 면밀한 조사하는 과정에서 오류가 필요합니다.

Although The College Board insists that the mistakes that led to last fall’s incorrect exams will be fixed, and the problem was an isolated incident, the organization’s reputation as a supposedly non-profit, fair institution has been damaged by the mistake and its initial refusal to cooperate with the Senate Higher Education Committee. 비록 대학 보드 주장의 잘못을 주도 지난 가을의 잘못된 시험에 고정된다, 그리고 문제는 우발적인 사고는 조직의 명성을 추측 아닌 - 이익, 공정한 기관이 손상을 실수로 초기 거절 상원은 고등 교육위원회에 협조합니다. Moreover, this gives rise to the question of whether the SAT should continue to be used in college admissions. 또한,이를 통해 상승에 대한 문제를 계속 사용할 수 있는지 여부를 브랜드에 사용되는 대학 입학해야합니다.

Wooooo. wooooo합니다.

Oh, for dessert: here are all 51 problem areas: 아, 후식 : 여기는 모두 51 문제를 지역 :

A. Not at all mitigated or detected 대답 : 완화하거나 전혀 검출
B. Partial mitigation or detection of risk b. 검색을 부분적으로 완화하거나 위험
C. Substantial mitigation or detection of risk c. 검색을 크게 완화하거나 위험
D. Completely mitigated or detected 디 완전히 완화 또는 검출
6. Scanner wrongly picks up persistent debris as a mark 6. 스캐너 영구적인 쓰레기로 잘못 표시 강해집
7. Scanner reading variation due to erasure 7. 스캐너 독서 변동으로 인해 삭제
8. Scanner reading variation on hesitation marks 8. 스캐너 독서 변동에 주저 흔
17. Answer sheet wrongly force matched to student 17. 답안지를 잘못 강제를 대상으로 검색되는 학생
22. Scanner misreads marks due to scan track corruption 22. 스캐너 스캔 추적 부정 부패로 인해 misreads 부호
25. Packages tampered with before shipping 25. 패키지를 발송하기 전에 손을 댔습니다
32. Scanner variation due to smeared pencil marks 32. 스캐너 변동으로 인해 연필 자국 착수금
47. Key entry mistakenly mixes pages from different answer sheets 47. 주요 항목을 실수로 믹스의 페이지를 서로 다른 답안지
49. PEM database gets corrupted 49. 뛰어나 데이터베이스가 손상
51. Errors in deleting items from database 51. 오류가 데이터베이스에서 항목을 삭제하는 중
1. Bubble alignment error due to paper manufacturing 1. 버블 정렬 오류로 인해 종이 제조
2. Paper alignment error due to paper material 2. 용지 정렬 오류로 인해 종이 소재
3. Scanner variation on marginal marks 3. 스캐너 유사 상표에 한계
4. Scanner reading variation due to alternative writing implement 4. 스캐너 변동으로 인해 읽고 쓰기를 구현 대안
5. Scanner wrongly picks up loose debris as a mark 5. 스캐너로 잘못 파편이 강해집 느슨한 마크
9. Inconsistency in scanning of double grids 9. 불일치를 검색하는 것입니다 이중 격자
10. Scanner picks up unintended marks from back side of paper 10. 스캐너 강해집의 종이 뒷면에서 의도하지 않은 부호
11. Scanner picks up unintended marks due to rubbing adjacent pages 11. 스캐너 강해집 마찰로 인해 인접 페이지에 의도하지 않은 부호
12. Editor assigns incorrect answer key due to invalid/missing test code/ form code 12. 편집기를 할당합니다 키를 잘못된 답변으로 인해 유효하지 않은 / 누락 테스트 코드 / 폼 코드
13. Incorrect answer key used due to student entering wrong valid test/form code 13. 잘못된 답변 키 사용 잘못으로 인해 학생을 입력 유효한 시험 / 폼 코드
16. Answer sheet wrongly manually matched to student by PEM 16. 답안지를 대상으로 검색되는 학생이 잘못을 수동으로 뛰어나
19. Student gets incomplete score using composite answer sheet 19. 학생이 불완전하게 점수를 사용하여 복합 답안지
21. Scanner reading variation due to partially wet sheets 21. 스캐너 독서 변동으로 인해 부분적으로 젖은 시트
26. Answer sheets left in test books 26. 답안지 남아있는 실험 책
28. Answer sheets go missing before receipt 28. 답안지 접수하기 전에 행방불명
37. Scanner variation on “good” marks due to unforeseen paper distortion 37. 스캐너 변동이 "좋은"부호로 인해 예기치 않은 용지 왜곡
38. 2 nd scanner out of tolerance 38. 2 차 스캐너 아웃의 허용 오차
39. 1 st scanner out of tolerance 39. 1 차 스캐너 아웃의 허용 오차
40. Both scanners out of tolerance 40. 둘 다 허용 오차 스캐너 아웃
41. Unforeseen events cause scanner variation 41. 예기치 못한 이벤트 스캐너 변동 원인
43. Scanner software bugs due to code changes 43. 스캐너 소프트웨어 버그로 인해 코드 변경
44. Wrong answer sheet pulled from batch for editing 44. 틀린 답안지를 편집하기 위해 일괄 처리에서 철수
48. Item level edit mistake 48. 항목 레벨 편집 실수
15. Answer sheet wrongly automatched to student 15. 답안지를 잘못 학생 automatched
18. Scanner reading variation due to humidity/ moisture 18. 스캐너 독서 변동으로 인해 습도 / 수분
20. Typed essay not correctly matched to student 20. 입력된 학생 에세이를 정확하게 일치하는
23. Packages are tampered with during shipping 23. 꾸러미는 도중에 손을 댔습니다 해운
24. Packages are damaged during shipping 24. 패키지가 손상 해운
27. Exams discovered in test booklets late at PEM 27. 시험 테스트 책자에서 발견된 뛰어나 늦은
29. Answer sheet packages go missing before receipt 29. 답안지 패키지를 이동하기 전에 누락된 영수증
30. Answer sheets destroyed with shipping materials 30. 답안지 배송을 파괴 물질
31. Answer sheets or boxes misplaced at PEM 31. 답안지 또는 등록증을 상자에 뛰어나
42. Sheet scanned once only (unscannable on other attempt) 42. 시트 스캔은 한 번만 (unscannable, 다른 시도)
14. Student enters wrong valid/ cross admin registration number 14. 학생 입력한 잘못된 유효 / 크로스 관리 등록 번호
33. Scanner reads marks in wrong order due to answer sheets flipped over 33. 스캐너로 인해 잘못된 순서로 읽습니다 답안지 점 이상을 상실
34. Pages from answer sheets in wrong order after slitting 34. 페이지의 답안지에 잘못된 순서로 슬릿 후
35. Pages from answer sheet go missing at scanner 35.의 페이지를 답안지에 스캐너가 누락
36. Pages stuck together going through scanner 36. 페이지에 붙어 통과 스캐너
45. Erroneous manual key entry for unscannables 45. unscannables 잘못된 항목을 수동으로 키를
46. Editor makes test/form code error on unscannables 46. 에디터가 테스트 / 폼 코드 오류가 unscannables
50. Data feed generation gets corrupted 50. 데이터 피드 세대가 손상